更新新的帖子到新的AI对齐论坛:布里丹的驴在协调游戏;概率是真实的，值是复杂的;MIRI研究助理凡妮莎·科索伊(Vanessa Kosoy)因“学习理论的人工智能对齐研究议程”获得7500美元的人工智能对齐奖。金宝博娱乐下一轮的申请将会…阅读更多»
贴子:Rob Bensinger
2018年7月简报
更新一篇新论文:“使用不完全模型进行预测”金宝博娱乐反事实抢劫扑克游戏;Eliezer Yudkowsky, Paul Christiano, Jessica Taylor和Wei Dai讨论了Alex Zhu的常见问题。金宝博娱乐我们参加了位于旧金山的EA Global，并发表了一个关于“分类变量……阅读更多»
新论文:“不完全模型预测”
MIRI研金宝博娱乐究助理Vanessa Kosoy发表了一篇关于归化归纳法问题的论文:“使用不完全模型进行预测”。摘要:我们考虑的任务是预测一个无限序列的未来观测基于一些过去的观测，其中生成观测的概率度量是“疑似”满足一个或多个集合。阅读更多»
2018年6月通讯
MIRI研究员Tsvi 金宝博娱乐Benson-Tilsen和Alex Zhu为麻省理工学院的学生和校友举办了一场人工智能安全研讨会。Andrew Critch讨论了应该给关注ai -x风险的初级研究者什么样的建议，我阐明了MIRI的战略观点的两点。金宝博娱乐来自Eliezer Yudkowsky:挑战…阅读更多»
2018年5月通讯
更新新的研究评论和讨论:金宝博娱乐资源有限的反思神谕;MIRI研究员Scott Garrabrant和他的同事Stuart Armstrong和Vanessa Kosoy是第二轮AI 金宝博娱乐Alignment奖的获奖者。第一名是汤姆·埃弗里特和马库斯·哈特的《对齐问题……阅读更多»
2018年4月通讯
更新一篇新论文:“古德哈特定律的变种分类”金宝博娱乐MIRI代理基金会项目的研究负责人Scott Garrabrant概述了MIRI研究的重点领域和2018年的预测。金宝博娱乐斯科特提出的逻辑…阅读更多»
2018年金宝博娱乐研究计划和预测
11月23日更新:这篇文章被编辑以反映Scott从“自然化世界模型”到“嵌入式世界模型”的术语变化。关于这四个研究问题的完整介绍，请参阅Scott Garrabrant和Abr金宝博娱乐am Demski的《嵌入式机构》。Scott Garrabrant将接替Nate Soares的工作，预测我们将在不同的研究中取得多少进展……金宝博娱乐阅读更多»
2018年3月通讯
更新新的研究报告和讨论:金宝博娱乐知识是自由;稳定的价值指针II:环境目标论《技术解释》的新技术解释Sam Harris和Eliezer Yudkowsky的播客对话内容如下:安德鲁·克里奇，之前正在休假……阅读更多»
