4月2020年4月通讯

Miri已被授予其最大的拨款- 从公开慈善事业分为7,703,750美元，与Ben Delo合作，CryptoCurrency交易平台Bitmex的联合创始人合作！

我们还被伯克利存在的风险倡议（300,000美元）和长期未来基金（10万美元）授予慷慨的补助金。我们感谢所有涉及的人！

其他更新

• 柴油和柴的罗汉沙子的巴克·肖氏探讨了rohin 2018-2019技术ai对齐研究概述金宝博娱乐在AI对齐播客。
• 来自Miri的Abram Demski：关于过滤证据的思考是（非常！）艰难的和贝叶斯演变 - 灭绝。来自Evan Hubinger：综合扩大和辩论。
• 来自Openai的Beth Barnes，Paul Christiano，Long Ouyang和Geoffrey Irving：通过辩论对AI安全的进展。
• 放大：电路介绍：Openai的Olah，Cammarata，Schubert，Goh，Petrov和Carter争辩，“功能是神经网络的基本单元。它们对应于神经元激活空间中的方向。[...]功能由重量连接，形成电路。[...]模型和任务的类似功能和电路形式。“
• DeepMind的Agent57似乎遇到了其中一个AI基准AI影响力的2016年调查，“在所有Atari游戏上胜过专业的游戏测试人员使用没有游戏特定知识”，早于Neurips / ICML作者预测。
• 来自DeepMind安全研究：金宝博娱乐规格游戏：AI聪明才智的翻盖一侧。