经常有人问我是否现在捐赠比以后的捐赠更重要。请允许我强调一下是的我目前预计，对MIRI的捐助在五年内将比对MIRI的捐助更有价值。就目前情况而言，我很可能会接受现在的1000万美元，而不是5年后的2000万美元。
这是一个大胆的说法，有几个不同的原因。首先，在未来5年内，有可能会有一些非常大的投资者开始进入人工智能对齐领域。美国国家科学基金会(NSF)似乎开始资助人工智能的安全性研究，斯图尔特·拉塞尔(Stuart Rus金宝博娱乐sell)已经从美国国防部高级研究计划局(DARPA)获得了一些资金，用于价值校准。很有可能在几年的时间里，大量的公共资金将流入这个领域。
(也很有可能不会或者资金会流向错误的地方，就像资助纳米技术一样。但如果要我打赌的话，我敢打赌，5年后，为人工智能对齐研究找到资金会容易得多)。金宝博娱乐
换句话说，资金瓶颈正在松动——但还没有松动。
我们目前没有资金来发展尽可能快在接下来的几个月里，或者运行我们计划的所有重要研究项目。金宝博娱乐在我们目前的资助水平上，研究团队可以以稳定的速度增长——但如果我们有金宝博娱乐足够的资金以健康的速度增长，我们可以在未来几年完成更多的工作。
这就引出了第二个原因，为什么现在的融资可能比以后的融资重要得多:因为现在的增长比以后的增长更有价值。
在人工智能领域，有一种想法正在获得关注:与其专注于提高智能系统的能力，还必须确保我们知道如何构建金宝博官方有益的智能系统。金宝博官方人工智能领域的一种新范式得到了越来越多的支持，这种范式严肃地考虑研究项目的长期影响，而不仅仅是眼前的影响。金宝博娱乐数年过去了，这些想法似乎是显而易见的，人工智能社区对这些挑战的回应可能会全面展开。然而，目前在如何解决这些问题上还没有达成相对一致的共识，这给今天的研究人员留下了帮助确定该领域未来方向的空间。金宝博娱乐
MIRI的工作人员已经思考这些问题很长时间了，这使我们处于一个非常好的位置来影响人工智能领域，并确保一些日益增长的关注指向长期问题，而不是短期问题。例如，我们可以帮助避免这样一种情况，即马斯克、博斯特罗姆和其他人引起的所有注意力和兴趣都被引入短期项目(例如，让无人机和无人驾驶汽车更安全)，而不考虑人们不太了解的长期风险。
MIRI很可能会在某个时候大幅扩大规模;但如果这一进程开始于2018年，而不是2015年，我们可能已经错过了一些重大机会。
人工智能内部的对齐研究项目现金宝博娱乐在才真正开始，甚至可能在几年内达到资金饱和。但目前还远未达到资金饱和，等待5年或10年才能开始真正加快我们的增长，我们在这种新的人工智能范式下塑造方法和研究议程的机会可能会少得多。金宝博娱乐MIRI今天承担的项目可以在未来几年带来巨大的不同，今天对我们的支持将极大地影响我们能快速做多少事情。现在很重要。
