多年来，Miri的目标是解决了足够的基本困惑，以使人类能够清楚地思考技术AI安全风险 - 并且在这项技术进入潜在灾难的程度之前进行这一点。这个目标似乎似乎很困难，但可能是可能的。去年，我们......阅读更多 ”
帖子：nate翱翔
确保聪明的智慧有积极的结果
I recently gave a talk at Google on the problem of aligning smarter-than-human AI with operators’ goals: The talk was inspired by “AI Alignment: Why It’s Hard, and Where to Start,” and serves as an introduction to the subfield of alignment research in AI. A modified transcript follows. Talk outline (slides): 1. Overview…阅读更多 ”
租后筹款机更新
我们在十一天前结束了我们的2016年筹款机构。进步起初很慢，但我们的捐赠者在最后一周以大量的方式聚集在一起，几乎翻了一番，这是我们的最终总数。最终，捐助者在六周内筹集了589,316美元，使我们迄今为止的第二大筹款人员。我的支持表明，我很衷涩，......阅读更多 ”
Miri的2016年筹款人
更新12月22日：我们的捐赠者在筹款日期家期间聚集在一起，让我们成为我们750,000美元的目标。总的来说，251名捐助者捐款589,248美元，使我们迄今为止的第二大筹款赛。虽然我们的目标缩短了160,000美元，但我们已经向11月/ 12月捐赠者弥补了这一缺口。我是…阅读更多 ”
新论文：“逻辑归纳”
Miri正在发布一篇论文，介绍了一个新的减扣限制推理模型：“逻辑归纳”由斯科特Garrabrant，Tsvi Benson-Tilsen，Andrew Critch，我自己和Jessica Taylor撰写的“逻辑归纳”。读者可能希望从删节版开始。考虑一个推理员观察演绎过程的环境（例如数学家和计算机社区......阅读更多 ”
来自公开慈善项目的拨款公告
今天的一项重大公告：开放慈善项目在来年授予Miri $ 500,000，以研究我们的代理基金会和机器学习研究议程中概述的问题，明年有很强的更新机会。金宝博娱乐这代表了Miri的最大拨款，以及我们第二大的单一贡献。来到......阅读更多 ”
MIRI战略更新：2016年
这篇文章是Malo 2015年度评论的后续行动，勾勒出我们的新2016-2017计划。简而言之，我们的首要任务（以较低的顺序）为（1）对我们所确定的研究问题进行技术进展，（2）扩大我们的团队，（3）为更广泛的研究界构建更强大的联系。金宝博娱乐正如以前所讨论的......阅读更多 ”
向OSTP提交AI结果
白宫科技政策办公室最近提出了关于“（1）AI的法律和治理含义的信息请求;（2）利用AI公共利益;（3）AI的安全和控制问题;（4）AI的社会和经济影响;“和各种相关主题......阅读更多 ”
