在2018年更新:我们的新研究方向金宝博娱乐, Nate Soares讨论MIRI的新研究;金宝博娱乐我们专注于“去融合”;我们决定不披露新业绩背后的一些想法;以及为什么会有比你想象中更多的人来参加加入MIRI团队!
另外,我们的2018年筹集资金从今天开始!为了拉开帷幕,我们将参加三个独立的配对活动,都围绕11月27日的“给予星期二”展开;详情请参阅我们的筹款帖子.
其他的更新
- 新的校准岗位:CDT的合理性条件是它等于EDT (1,2);标准毫升预言vs.反事实的;用反事实纠错论解决三个问题;当EDT=CDT时,ADT做得很好.参见Paul Christiano的EDT与CDT (1,2).
- 嵌入式代理: Scott Garrabrant和Abram Demski的完整序列结束了!这些帖子是MIRI代理基金会研究的新核心介绍性资源。金宝博娱乐
- “有时人们问我,要想进入代理基金,他们应该学什么数学。我的第一个答案是,我发现每个子领域的入门课程都很有用,但我发现后面的课程就没那么有用了。我的第二个答案是学习足够的数学来理解所有不动点定理....”在定点练习, Scott提供了进入MIRI的代理基金会研究的练习。金宝博娱乐
- MIRI正在寻找新系列的申请人计算机科学家的人工智能风险研讨会,目标受众是那些想要更深入思考人工智能对齐问题的技术人员。
新闻和链接
- Vox揭示将来完成时,这是他们网站的一个新版块,专注于有效的利他主义。
- 80000小时采访保罗global,包括讨论MIRI/Paul的分歧和Paul的人工智能对齐研究方法。金宝博娱乐
- 80000小时调查有效的利他组织关于他们的招聘需求。
- 来自克里斯提诺、巴克·施莱格里斯和达里奥·阿莫代:通过重复放大学习复杂的目标(arXiv纸).