《智能爆炸微观经济学》出版

||论文

MIRI的新技术报告,93页,由Eliezer Yudkowsky撰写,智能爆炸微观经济学,现已发布。这份报告解释了我们研究项目中一个未解决的问题。金宝博娱乐文摘:

I. J. Good关于“智能爆炸”的论点是,一个足够先进的机器智能可以制造自己的更智能版本,反过来,机器智能也可以制造自己的更智能版本,这个过程可以持续到远远超过人类智能的程度。桑德伯格(Sandberg, 2010)正确地指出,有几次尝试制定投资回报公式,以代表经济或技术增长的急剧加速,但很少有尝试正式处理i.j.古德的智力爆炸论点。

我认为关键问题在于认知再投资的回报——投入更多计算能力、更快的计算机或改进的认知算法来产生产生更大的大脑、更快的大脑或更好的思维设计的认知劳动的能力。世界上有许多现象被认为与这个问题明显相关,从观察到的原始人类进化过程,到摩尔定律,到机器下棋系统的能力,等等。金宝博官方我深入讨论了如何解释这些证据引发的争论。我建议,在分析情报爆炸的立场时,下一步应该是将投资回报曲线正式化,这样每个立场都可以正式地说明,他们认为哪些可能的微观基础被历史观察所证伪了。更一般地说,我提出了多个关于“认知再投资回报”或“智力爆炸微观经济学”的开放式问题。尽管到目前为止,这些问题还没有得到多少关注,但它们似乎与影响地球起源智慧生命结果的政策选择高度相关。

公众讨论这项研究的首选地点是金宝博娱乐在这里.还有一个技术讨论者的私人邮件列表,您可以申请加入在这里