我为即将到来的书写了一篇短的Miri有效的利他主义。它留下了许多重要细节，但很简洁地击中许多关键点：
这机智研究所金宝博娱乐（Miri）成立于2000年，前提是，为具有积极影响的人为人工智能创造聪明的人工智能 - “友好的AI” - 可能是尽可能好的效果特别有效的方式。
首先，由于未来人民目前存在的人，我们认为“从全球角度来看，最重要的（在期望）是什么，我们为我们的后代发展的一般轨迹做出最好（预期）是什么数百万，数十亿和万亿年。“（见尼克贝克斯德的关于塑造远未来的压倒性重要性。）
其次，作为一个经验性问题，我们认为智慧比人类的AI是人类最重要的杠杆作用，“我们的后代发展的一般轨迹”。如果我们明智地处理高级AI，它可能会产生巨大的商品，持续数十亿岁。如果我们处理高级AI差，它可能会使人类灭绝。其他未来的发展没有更多的上行或下行。（见尼克博斯特罗姆超明：路径，危险，策略。）
第三，我们认为友好的AI研究是易行的，紧急和不可用的。金宝博娱乐
贸易：我们的工作人员和访问研金宝博娱乐讨会参与者在友好的AI理论中解决了打开的问题，例如：即使它学习新事物并修改自己的代码，我们才能获得AI以保护其原始目标？我们如何将所需的目标加载到自我修改的AI中？我们如何确保先进的AIS将彼此合作，并附有自己的修改版本？这项工作目前处于理论阶段，但我们正在明确概念进步，并越来越多的研究人员致力于解决这些问题。金宝博娱乐
紧迫的：AI科学家的调查以及我们自己的估计，期望在21世纪的第二半的智慧比人类AI的发明，如果不是更快的话。遗憾的是，我们需要解决的数学挑战，以建立友好的AI通常需要几十年的研究来克服，每个新的结果都在以前的进步。金宝博娱乐此外，由于令人置摸而令人置摸的发明，因此难以预测，因此可能会令人惊讶地迅速到达，因为很少有时间准备。
不可用：几乎没有少于五个全球金宝博娱乐的研究人员，明确致力于全职友好的AI研究。
机器过度智能化的压倒性力量将重塑我们的世界，主导其他因果因素。我们对绝大多数生命的绝大多数人的意图影响必须在很大程度上通过第一个自我改善比人类AIS的技术设计来实现。许多正在努力 - 代表更好的利他主义，更好的推理，更好的全球协调等 - 将在这个故事中发挥作用，但我们认为这也是至关重要的直接解决核心挑战：具有理想的目标稳定自我改善的AIS的设计。未能解决这个问题会使人类的其他努力没有意思。
