公开慈善项目的主要补助金

||消息

我很高兴宣布,公开慈善项目已获得Miri A.三年375万美元的一般支持赠款(每年1250万美元)。到目前为止,这笔拨款是Miri收到的最大贡献,并将对我们的计划产生重大影响。

这笔补助金遵循500,000美元的补助金我们于2016年从开放慈善项目收到。开放的慈善项目公告对于新的拨款,他们“现在旨在支持大约一半的Miri年度预算”。1每年的12.25亿美元代表我们向公开慈善项目提供的50%的保守估计,我们预计2018 - 2012年将能够在2018 - 2012年度可以用餐。

这种支持的扩张也有条件,因为我们可以从其他支持者筹集其他50%的能力。出于这个原因,我真诚地感谢所有帮助我们这一点的过去和现有的支持者。

如果Miri能够以有用的价格超过我们的保守估计,则开放的慈善项目已经表达了潜在的支持,如果他们认为,他们认为,这些支出的增加是足够的高价值,并且如果我们能够在外面获得额外的额外费用support to ensure that the Open Philanthropy Project isn’t providing more than half of our total funding.

我们将在后续帖子中介绍我们未来的组织计划的详细信息12月1日,我们还将讨论我们年终的筹款目标。

在他们的写作中,开放的慈善项目指出,自2016年以来,他们已经更新了我们的技术产量,以后我们的逻辑诱导纸

我们收到了对Miri的作品进行了非常积极的审查“逻辑归纳“由(i)的机器学习研究人员对AI安全感兴趣,(金宝博娱乐ii)被我们的关闭顾问中的至少一个杰出的研究员被评为优秀的研究员,并且(III)通常被认为是ML社区的突出。如上所述,我们以前有过难以评估Miri研究的技术质量,我们以前没有人能够在比较兴奋的可比性范围金宝博娱乐内找到一个会议标准(i) - (iii)。虽然我们通常不会在此考虑因素的基础上为任何实验室提供可比的授权,但我们认为这是最初的上下文的重要更新[2016] Grant的案例(特别是Miri对这一组问题的体贴,与美国的价值对齐,截然不同的观点以及该地区的工作历史)。虽然我们的技术顾问的余额仍然让我们对Miri的研究价值持怀疑态度,但声明的案例“Miri的研究有一个金宝博娱乐不动性的机会结果是非常有价值(考虑到它是如何从AI安全研究的不同之处)“在我们收到这次审查之前看起来比它更强大。金宝博娱乐

该公告还陈述了“自从我们的初始授予Miri以来,我们在这一焦点领域拨出了几次拨款,因此较大的拨款将发出较大的拨款将发出巨大的批准米瑞的方法。”

我们非常感谢开放的慈善项目的支持,并为整个AI安全领域深入接触。要了解更多关于我们与公开慈善项目的讨论及其在此空间中的积极工作的讨论,请参阅本集团的之前AI安全拨款,我们与Daniel Dewey的谈话论有效的利他主义论坛,近期开放慈善项目中金宝博娱乐概述的研究问题AI研究员计划描述


  1. 开放慈善项目通常更喜欢提供超过一半的组织的资金,以促进资助协调,并确保其支持的组织保持独立性。从三月开始博客帖子:“我们通常避免我们提供的情况> 50%的组织资金,以避免产生一个组织的总资金的情况,因为过度依赖我们,这是一个组织的总资金”脆弱“。”