更新
- 来自Miri研究员Vanessa Kosoy金宝博娱乐的一篇新论文本周在ICLR Safeml工作室提供：“授权加固学习：学习避免陷阱有点帮助。“
- 新研究帖金宝博娱乐子：当信息实际上没有知道时，学习“已知”信息;击败古德哈特和“最近的未包容战略”问题;难以察觉的奖励的加强学习
- 长期未来的基金已宣布二十三项新的授予建议，并提供对拨款的深入解释。这些包括到Miri授予50,000美元，并赠送CFAR并应该。LTFF还推荐使用AI对准研究提案的若干人员，其工作Miri员工将有助于评估。金宝博娱乐
- 我们参加了这一点AI圆桌会议的全球治理在迪拜世界政府峰会。
新闻和链接
- Rohin Shah反映了对齐通讯的第一年。
- 一些最近的AI对准讨论：Alex Turner要求悲观措施悲观的最佳原因;HenrikÅslund和Ryan Carey讨论易燃为约束优化;魏戴问了低成本AGI协调;和克里斯·莱昂问道：“解决反事实解决人类学？“
- 来自Deepmind：致强大和验证的AI：规范测试，培训和正式验证。
- Ilya Sutskever和Greg Brockman讨论Openai的新地位为“营利性和非营利组织的混合“。
- 关于中国和AI的误解：Julia Galef采访了海伦爽肤尼。（摘录。）
