爱德华Kmett
已加入MIRI团队!Edward是一位杰出的Haskell开发人员,他推广了函数式编程中透镜的使用,目前维护着许多围绕Haskell核心库的库。
我还很高兴地宣布另一名新成员詹姆斯付款人.詹姆斯在软件初创公司Draftable工作金宝博娱乐三年后加入MIRI研究团队。他曾在麻省理工学院学习数学和计算机科学,并在世界上最负盛名的计算机科学竞赛之一的国际奥林匹克信息学大赛中获得银牌。
其他新闻,我们今天发布了新版合理性:从AI到僵尸有相当多的文本的修正还有(第一次)印刷版!
最后,我们的2018年筹集资金我们的第一个目标已经过半了!(目前有13万6千美元的捐赠可以通过翻倍开车!)
其他的更新
- 斯图尔特·阿姆斯特朗(Stuart Armstrong)和Sören Mindermann的一篇新论文写道:奥卡姆剃刀不足以推断非理性行为者的偏好”。
- 新的AI对齐论坛帖子:凯利的赌球;有界甲骨文感应
- OpenAI的杰克•克拉克和Axios讨论研究分享在人金宝博娱乐工智能,跟进我们的2018年更新职位。
- 埃利泽·尤多科夫斯基(Eliezer Yudkowsky)的一篇回顾文章:伦理学家应该在职业内部还是外部?
新闻和链接
- DeepMind安全团队的新成员:Jan Leike通过奖励建模实现可伸缩代理对齐(arXiv)和维克多利亚·克拉科夫纳的人工智能安全的机器学习方法探讨.
- 最近发布的两个核心对齐论坛序列:Rohin Shah’s值的学习和保罗global的迭代放大.
- 凯瑟琳·奥尔森和丹尼尔·齐格勒在80000小时播客上讨论机器学习工程师参与人工智能安全的途径.
- 尼克·博斯特罗姆发表了一篇新论文:脆弱世界假说”。