宣布“不平衡”

||新闻

MIRI高级研究员Eli金宝博娱乐ezer Yudkowsky今天出版了一本新书:《不充分的均衡:文明在哪里以及如何陷入困境》,讨论了社会功能障碍、可利用性和自我评价。从序言:

不平衡是一本关于有效市场的广义概念的书,以及我们如何利用这个概念来猜测社会在追求某些广泛期望的目标时会或不会有效。在一个有效的市场中,聪明的个人通常应该怀疑他们能否发现定价过高或过低的资产。然而,我们可以问一个类似的问题,关于其他人类活动的“效率”。

例如,假设有人认为他们可以轻松建立一个比Facebook更好、更赚钱的社交网络,或者很容易想出一种治疗广泛疾病的新疗法。他们是否应该质疑导致他们得出这个结论的任何聪明的推理,就像大多数聪明的人应该质疑导致他们认为苹果股票被低估的任何聪明的推理一样?他们是否应该质疑自己是否能在这些领域“打败市场”,或者他们是否能在原则上发现现状的重大改善?“高效”或如何足够的,我们是否应该期望文明能够完成各种各样的任务?

思考这些问题总会有好方法和坏方法;这本书是关于这两方面的。

这本书可以在亚马逊(in .)上买到打印Kindle),在iBooks,作为“随你付”数字下载,作为一个网址是equilibrium abook.com.这本书也被寄到了更少的错误2.0

本书内容如下:


1.不足和谦虚

这是两个“完全不同,几乎不同”的人的比较认知不重叠的思考卓越表现的方法:适度的认识论,不足分析

2.无自由能的平衡

原则上讲,社会是如何最终忽视那些显而易见的唾手可得的果实的呢?

3.摩洛的工具箱

为什么我们的文明最终忽略了容易摘到的果实?

4.生活在一个不充分的世界

我们如何在决策中最好地考虑到文明的不足?

5.盲目的经验主义

这是现实生活中谦虚的三个例子。

6.对温和的认识论

一种反对谦逊的“认识论核心”的观点:在遇到分歧或新奇事物时,我们不应该只看重我们自己的推理和元推理的表面价值。

7.地位监管和焦虑的信心不足

出于谦虚的原因。


虽然不平衡不是关于人工智能,我认为它是MIRI迄今为止最重要的非技术出版物之一,因为它有助于解释一些最基本的工具和背景模型,我们在评估一个潜在的项目、研究计划或总体战略有多有前途时使用。金宝博娱乐