米里’s new, 93-page technical report by Eliezer Yudkowsky, “智力爆炸微观经济学“现在已经发布了。该报告解释了我们研究计划的一个开放问题之一。金宝博娱乐这是抽象：

I. J. J.良好的“情报爆炸”论文是一个充分先进的机器智能可以建立一个更聪明的版本本身，这可能反过来建立一个甚至更聪明的版本，并且这个过程可以继续超过人类智慧。As Sandberg (2010) correctly notes, there are several attempts to lay down return-on-investment formulas intended to represent sharp speedups in economic or technological growth, but very little attempt has been made to deal formally with I. J. Good’s intelligence explosion thesis as such.

我将关键问题确定为对认知再投资的回报 - 投资更多计算能力，更快的计算机或改进的认知算法的能力，以产生产生更大的大脑的认知劳动，更快的大脑或更好的思维设计。世界上有许多现象，这是与本问题的证据表明相关的，从观察到的同性恋演变，摩尔定律，摩尔法的竞争力，更多。金宝博官方我对这种辩论进行了一些深度，然后出现了如何解释这种证据。我建议在智力爆炸上分析职位的下一步前进将是正式化投资曲线，使得每个立场可以正式说，他们认为它们被已经制作的历史观察伪造的可能微吻合。更一般地说，我对“认知再投资”或“智力爆炸微观经济学”的回报造成了多个开放问题。虽然此类问题迄今为止收到了很少的关注，但它们看起来与影响地球始于智能生活的结果的政策选择非常相关。

公众讨论这项研究的首选地方是金宝博娱乐这里。还有一个用于技术讨论者的私人邮件列表，您可以申请加入这里。

Singularity Hypotheses: A Scientific and Philosophical Assessment现在已由Springer发布，在HardCover和电子书表格中。

The book contains 20 chapters about the prospect of machine superintelligence, including 4 chapters by MIRI researchers and research associates.

“Intelligence Explosion: Evidence and Import”（PDF.）由卢克·迈翰万家和（以前的Miri研究员）Anna Salamon评论金宝博娱乐

关于三个索赔的证据：（1）有一个大量的机会，我们将在2100之前创造人级AI，即（2）如果创造人级AI，则会有一个很好的机会，超人艾美岛将遵循一个“情报爆炸”，（3）一个不受控制的情报爆炸可能会摧毁我们的价值的一切，但如果我们能够实现它，受控情报爆炸会使人类受益。我们结束了建议，以增加相对于不受控制的智力爆炸的受控情报爆炸的几率。

“智力爆炸和机器伦理”（PDF.) by Luke Muehlhauser and Louie Helm discusses the challenges of formal value systems for use in AI:

许多研究人金宝博娱乐员认为,一个自我完善的artificial intelligence (AI) could become so vastly more powerful than humans that we would not be able to stop it from achieving its goals. If so, and if the AI’s goals differ from ours, then this could be disastrous for humans. One proposed solution is to program the AI’s goal system to want what we want before the AI self-improves beyond our capacity to control it. Unfortunately, it is difficult to specify what we want. After clarifying what we mean by “intelligence,” we offer a series of “intuition pumps” from the field of moral philosophy for our conclusion that human values are complex and difficult to specify. We then survey the evidence from the psychology of motivation, moral psychology, and neuroeconomics that supports our position. We conclude by recommending ideal preference theories of value as a promising approach for developing a machine ethics suitable for navigating an intelligence explosion or “technological singularity.”

“友好的人工智能”by Eliezer Yudkowsky is a shortened version ofYudkowsky (2008)。

最后，“人工综合情报和人体心理模型”（PDF.）由罗马yampolskiy和（Miri Research As金宝博娱乐sociate）约书亚福克斯评论了人为机器智能的危险：

当建立第一次人工综合智能时，它们可能会改善到遥远的人类水平。关于这种未来实体的猜测已经是受拟人偏见的FF，这导致了与人类思想的错误类比。在本章中，我们应用了一个面向目标的对智力的理解，以表明人类只占据可能的思想的设计空间的一小部分。这个空间远远大于我们熟悉人类的实例;并且未来的高度精神的心理架构和目标无需具有人类思想的大部分性质。一种新的认知科学和哲学的方法，不需要在人类的例子中，需要帮助我们了解我们在大于美国的力量时所面临的挑战。

这本书还包括对大多数章节的简短，关键响应，包括Eliezer Yudkowsky和（以前的Miri Staffer）Michael Anissimov所写的答复。

在他作为Miri研究员的时间，Alex A金宝博娱乐ltair写了一篇论文永恒的决策理论（TDT) that has now been published: “关于Newcomblike问题的决策算法比较。”

Altair的纸张既不同简洁，也更加精确于其TDT的制定比Yudkowsky的早期纸张“永恒的决策理论。” Thus, Altair’s paper should serve as a handy introduction to TDT for philosophers, computer scientists, and mathematicians, while Yudkowsky’s paper remains required reading for anyone interested to develop TDT further, for it covers more ground than Altair’s paper.

Altair的抽象读：

When formulated using Bayesian networks, two standard decision algorithms (Evidential Decision Theory and Causal Decision Theory) can be shown to fail systematically when faced with aspects of the prisoner’s dilemma and so-called “Newcomblike” problems. We describe a new form of decision algorithm, called Timeless Decision Theory, which consistently wins on these problems.

我们可能会在稍后提交日志，但我们已经将当前版本发布到我们的网站，以便读者不需要等待两年（从提交到接受出版物）来阅读它。

为了温和地介绍整个规范决策理论（包括TDT），参见Muehlhauser和Williamson的Decision Theory FAQ。