我们如何有效地规划未来几十年？（初始调查结果）

||分析

MIRI旨在执行研究，这提高了人金宝博娱乐类成功管理重要的AI相关事件的几率几十年后。因此，我们想知道：在多大程度上可以采取行动，现在可以预测可预测对与AI相关的事件数十年的积极影响？而且，哪些因素预测规划数十年的遥远事件的成功和失败，这些事件与未来的AI活动共享重要功能？

或者，更一般：人类如何有效地计划未来几十年？哪些因素预测未来数十年的成功和失败？

要调查这些问题，我们问道乔纳辛克为未来几十年做计划的历史尝试，并总结他的发现。就像Jonah之前在GiveWell所做的那样，我们预先承诺将发布关于这个话题的整个电子邮件交流内容关于杀虫剂处理的网的主题。下面的职位是研究结果的摘要我们的电邮交流全文(.pdf)到目前为止。

我们决定在调查几个历史案件后发布我们的初始调查结果。这使我们能够在继续之前获得关于项目的价值的反馈，以及改进的建议。这也意味着我们尚未能够为我们的核心问题提供任何自信的结论。

到目前为止，该项目的最重要结果是：

  1. 乔纳的初步印象增长的极限（1972年）是一个着名的人口和资源枯竭的预测研究，是其长期预测主要是错误的，而且其作者（在撰写本文时）并没有预测预测成功的凭据。阅读书籍后，其批评者及其捍卫者乔纳得出结论，许多批评者和辩护人严重歪曲了这本书，而书本本身表现出高的认知标准，并没有做出错误的预测结果。
  2. SVANTE ARRHENIUS（1859-1927）鉴于他的信息有限的信息，但他仍然是错误的两个重要的政策相关因素，令人惊讶的气候建模。首先，他未能预测碳排放量如何增加速度。其次，他预测，全球变暖将具有积极的而不是负面的人道主义影响。如果更多的人在人道主义原因速度速度和烧伤化石燃料的预测，那么今天对气候变化影响的科学共识表明人道主义效应将是消极的。
  3. 回想起来，Norbert Weiner对增加自动化的中期危险的担忧似乎是天真的，似乎甚至当时，更好的认知实践也会产生大幅更好的预测。
  4. Upon initial investigation, several historical cases seemed unlikely to shed substantial light on our core questions: Norman Rasmussen’s analysis of the safety of nuclear power plants, Leo Szilard’s choice to keep secret a patent related to nuclear chain reactions, Cold War planning efforts to win decades later, and several cases of “ethically concerned scientists.”
  5. 经过初步调查，两起历史案件似乎可能这些问题包括:中国的独生子女政策、福特基金会(Ford Foundation)对印度1991年金融危机的影响。金宝博娱乐
  6. 我们列出了许多可能值得调查的其他历史案例。

该项目还逐章列出了Nate Silver的一些关键经验教训信号和噪音， 可用的在这里。

下面给出了进一步的细节。对于来源等，请看我们的电邮交流全文(.pdf)。

增长的极限

在他的初步看限制生长（1972年），乔纳指出，在撰写本文时（最古老的是31岁），作者在撰写（最古老的是）的情况下，他们缺乏长期预测的资格。而且，它似乎增长限制预测了一种世界末日情景 -翼Erlich设计的人口炸弹(1968年)——这没有发生。特别是，它似乎增长限制未能欣赏朱利安·西蒙其他资源将替代耗尽资源。

阅读这本书后，约拿发现：

  • 这本书避免了强烈的、无条件的主张。它的核心主张是如果资源使用的指数增长仍在继续，然后到2100年，社会可能会崩溃。
  • 这本书谨慎符合其索赔，达到高认知标准。乔纳写道：“即使回想起来，这本书也看起来很天真，这令人印象深刻，因为它是40年前写的。“
  • 作者在第4章中讨论了长度的可替代性。
  • 这本书讨论了理论级别的缓解，但没有发出明确的政策建议，也许是因为所涉及的问题太复杂了。

Svante Arrhenius

源自一个多世纪前，Svante Arrhenius“地球的温度如何随着二氧化碳浓度的函数而变化的等式是今天使用的相同等式。但是，虽然鉴于当时对他的信息令人印象深刻，但他未能预测（通过大幅度），但虽然燃烧了化石燃料的速度，但他未能预测。他还预测，全球变暖将具有积极的人道主义效应，但基于我们目前的理解，预期的人道主义效应似乎是消极的。

阿伦斯的预测大多忽略了当时，但人们越来越快地让他们感到严重，燃烧化石燃料，人道主义的影响可能是消极的。

诺伯特韦纳

正如乔纳解释的那样，诺伯特韦纳（1894-1964）“认为除非采取对策，除非采取对策，否则自动化将使低技能工人失业。他相信这将沉淀出的经济危机比大萧条更糟糕。“他去世近50年后，这似乎没有发生很多，尽管最终可能会发生。

约拿的印象是，韦纳在这个问题上有强烈的观点，似乎并没有对现有证据做出太多回应，而且似乎严重依赖于什么柏林（1953）和泰特罗克(2005)被描述为“刺猬”思考：“狐狸知道很多东西，但刺猬知道一件大事。”

一些历史案例似乎不太可能解释我们的问题

拉斯穆森（1975）是核电站的概率风险评估，在任何核电厂灾害发生之前写的。However, Jonah concluded that this historical case wasn’t very relevant to our specific questions about taking actions useful for decades-distant AI outcomes, in part because the issue is highly domain specific, and because the report makes a large number of small predictions rather than a few salient predictions.

在1936年,利奥西拉德以确保其保留纳粹分子的方式分配了他的链式反应专利。然而，约拿得出结论：

我认为这不是一个非活动未来预测的良好榜样。破坏性潜力似乎非常明显 - 任何产生大量集中能量的东西都可以以破坏性的方式使用。至于纳粹，Szilard是他自己犹太人，逃离纳粹，似乎很明显，人们不会想要一个危险的制度来获得具有破坏性潜力的知识。如果Quantum Mechence的早期开发人员暗示暗中意识到有破坏性潜力的可能性，或者如果Szilard秘密提交了他的专利，那么Quazy Memage在纳粹政权已经离开的金宝博娱乐假设世界。

Jonah简要审查了旨在赢得战争的冷战努力几十年后，但总结说，这是“太难将这些努力与战争结果相结合”。

乔纳还调查了Kaj Sotala的道德关注科学家的简史。引用的大多数历史案件似乎与该项目似乎不相关。许多案例涉及“科学家们隐瞒了他们的发现，因为他们将被用于军事目的，”但这似乎是一种越来越无关的历史案例，因为科技市场现在相对较高，并且隐瞒了延迟的发现很少progress for very long (e.g. see凯利2011年)．其他案件涉及减少在宣传期间威胁迫在眉睫的危险武器的使用。在这些案例中可能有一些教训，但它们似乎与我们当前的项目相关性相对较弱。

一些历史案例可能会在额外的研究中阐明我们的问题金宝博娱乐

乔纳对中国的影响进行了初步调查独生子女政策并得出结论，需要许多，许多小时的研究来确定符号和政策影响的严重程度。金宝博娱乐

乔纳还调查了一个涉及的案件福特基金会。在与赠品谈话Lant Pritchett说：

[一个]变革慈善事业的例子与印度从1991年的经济危机中恢复有关。其他国家曾有类似的危机，未能实施良好的政策，使他们能够从危机中恢复。通过对比，印度实施了良好的政策并在短时间内恢复。确保印度的大多数关键演员实施了它所做的政策，该政策受到福特基金会的思维坦克的影响，危机前十年。智库将印度人暴露于来自发达国家的自由化的相关思想。（a）印度向上经济轨迹的差异和（b）在1991年危机中恢复不成功，这是一个向上经济轨迹的差异是在危机中恢复的。因此，福特基金会对智库的投资产生了巨大影响。在危机之前的十年中，它看起来像智库没有影响，但事实证明它会产生巨大的影响。

不幸的是，约拿找不到任何能让他核实这个故事是否真实的消息来源或联系人。

其他可能值得调查的历史案例

我们确定但尚未调查的历史案例包括：