3月通讯

||时事通讯

newsletterheader_sm_c.1

执行主任的问候

朋友,

如从前那样宣布在我们的博客上,奇点研究所被重新命名为机器智能研究所(Miri)金宝博娱乐自然,我们的员工和我们的支持者对我们最初的名字“奇点研究所”都有积极的联想。因此,任何新名字在一段时间内会感觉很陌生。然而,“MIRI”在过去的几周里听起来越来越好,我们认为你也会喜欢上它。

有些人会担心,“但是‘MIRI’并没有详细地表达你做了什么!”然而,根据我们的市场调查,这是“一个功能,而不是金宝博娱乐一个漏洞。”金宝博娱乐研究人员尤其表示,在一个名称听起来太狭窄或“偏袒”的机构工作,他们会感到尴尬。他们还警告我们,一个组织的活动范围会随着时间的推移而变化,所以它的名称应该非常笼统。大学院系和独立研究机构很久以前就吸取了这些教训,因此往往有非常笼统的名称(大学金宝博娱乐本身通常以其主要校园所在地命名)。

“Miri”也有其他好的物业。它很容易拼写,很容易发音,它反映了我们对更多技术研究的转变优先事项。金宝博娱乐当然,我们的使命保持不变:“确保创造聪明的智力福利社会。”

请浏览我们的新网站Intelligence.org.网站指南在这里

我们的电子邮件也发生了变化。一定要更新您的电子邮件联系人列表使用我们的新电邮地址,例如:luke@www.gqpatrol.com。我们以前在singinst.org和singularity.org的电子邮件地址已经失效。你可以看到我们所有的新电子邮件地址团队页面。

欢呼,

路加福音Muehlhauser

执行董事

即将举行的MIRI研究研讨会金宝博娱乐

从11月2012年11月18日,我们举行了逻辑,概率和反射的第一米里研讨会.四个车间参与者(以利以谢Yudkowsky保罗global(Marcello Herreschoff和Mihály Bárász)以概率反思推理为基础。特别是,他们证明了一个小心的概率逻辑形式化可以绕过许多经典的自我参照悖论。应用于元数学,这个框架提供了(似乎是)真理的第一个定义,这个定义足以表达用于反思推理。应用于集合理论,这个框架提供了一个基于不受限制理解的概率集合理论的实现,它仍然强大到可以形式化普通的数学推理(与类似的模糊集合理论相比,它最初是为了这个目的而提出的,但后来发现它与数学归纳法不相容)。

这些结果表明,可以使用类似的方法来解决Löb的定理,但这还没有被探索。这项工作将在接下来的几个月里被写下来。

与此同时,MIRI正在为第二届MIRI逻辑、概率和反思研讨会,将于2013年4月3日至24日举行。更多详细信息,请参见相关博客帖子

其他MIRI研究研讨会也暂定于2金宝博娱乐013年夏秋两季举行。

冬天募款活动成功!

感谢我们忠实的支持者,我们实现了我们的目标2012年冬季募款活动.谢谢你!

筹款人从2012年12月6日到2013年1月20日起跑了45天。

我们实现了11.5万美元的目标,在2013年为我们的运营筹集了23万美元。

MIRI研究人员课程建议金宝博娱乐

MIRI副主任路易·赫尔姆准备了一份名单推荐Miri研究人员的课程金宝博娱乐,它回答了这样一个问题:“如果一个研究人员想要装备自己来解决MIRI研究议程上的技术问题金宝博娱乐,他应该研究什么?”这个新页面提供了学习科目列表,以及教科书推荐、在线课程推荐和特定大学(加州大学伯克利分校、斯坦福大学、麻省理工学院和卡内基梅隆大学)的推荐课程。

决策理论常见问题解答

如果你想让未来的人工智能在现实世界中合作囚徒困境,您最好希望他们不使用哲学和计算机科学期刊中讨论的任何标准决策算法。由于这个原因和其他原因,决策理论代表了Miri的研究议程的主要重点(例如,看金宝博娱乐Yudkowsky 2010).

为了帮助澄清决策理论的一些常见困惑,并鼓励更多的研究人员解决这些问题,MIRI执行主任Luke Muehlhauser写了一篇金宝博娱乐决策理论常见问题解答的网站更少的错误.这是迄今为止互联网上最全面的决策理论FAQ第11节是对文献中不同决策算法如何处理一系列标准问题的一个特别方便的总结(纽科姆的问题医疗纽科姆的问题伊根的精神病患者的按钮Parfit的搭便车,囚徒困境等等)。

关注伦理的科学家简史

1956年,诺伯特·韦纳(Norbert Weiner)写道:“历史上第一次,一个有限的几千人群体有可能彻底毁灭数百万人。”今天,人们对科学发现的普遍态度是,科学家自己并不对他们的工作如何被使用负责。但这并不一定是我们应该鼓励的态度。随着技术变得越来越强大,它也变得越来越危险。

为了表彰那些认真对待其工作的潜在社会后果的科学家,也为了让其他人更容易地写科学家的社会责任,MIRI研究员Kaj Sotala发表了文章金宝博娱乐道德关注科学家的简史.按此连结了解:

  • 约翰纳皮尔(1550-1617),他发现了一种致命的新型大炮,但对其细节保密,以免其破坏力被利用。
  • 刘易斯炒理查森(1881-1953),他拒绝了为英国军队优化毒气扩散的邀请,销毁了他未发表的研究成果,离开了气象学,转而开始研究战争的起因,希望减少武装冲突。金宝博娱乐
  • 利奥西拉德(1898-1964),他发现了核链式反应,但他的专利细节被保密,这样德国就不能用这些专利来开发原子弹,后来他发起了反对核扩散的运动。
  • 约瑟夫Rotblat(1908-2005),出于对原子弹伦理问题的关注,他离开了曼哈顿计划,并发起了反对核扩散的运动。

和许多其他人。

永旺(Aeon)杂志涵盖的存在风险

我们没有提到每一篇关于存在风险或者人工智能的风险, 但这一个作者:罗斯·安德森永世杂志是特别好。它很大程度上是基于尼克·博斯特罗姆他经常与MIRI研究人员合作。金宝博娱乐人工智能的伦理学”)。博斯特罗姆目前正在撰写关于机器超智能的学术专著,安德森的文章恰当地强调了人工智能风险的中心地位。文章还包括与MIRI研究助理的对话片段金宝博娱乐丹尼尔·杜威》的作者(学习什么值得重视”)。

我们也推荐博斯特罗姆的新文章生存风险预防是全球优先事项”,即将在全球政策

MetaMed发射

MIRI前总裁迈克尔·瓦萨(Michael Vassar)新的个性化医药公司终于成立了:看MetaMed!MetaMed为那些想要确保他们的治疗得到最新医学突破的患者提供个性化的金宝博娱乐医学研究。以利以谢Yudkowsky介绍了该公司为:

在一个85%的医生无法解决的世界中简单的贝叶斯词问题...

在一个只有20.9%的报告结果的世界里,制药公司试图调查发展的目的,完全复制...

在一个"p值作者想让它们变成什么就变成什么...

和哪里有各种各样的令人惊叹的技术和技巧你们医院里没人听说过…

......还有MetaMed.MetaMed将为你提供真正的循证医疗保健,而不是仅仅在医生不会阅读的期刊上发表“循证医学”。MetaMed会(a)让了解真实统计数据并能判断论文是否值得信赖的人阅读相关研究文献;金宝博娱乐(b)向你推荐他们网络中的合作医生,他们可以实施他们找到的治疗方法。

MetaMed部分案例的启发,一个女人,她有她的指尖砍掉,告诉医院,她完蛋了,然后自己阅读大量的文献,直到她找到一个工作在一个先进的再生疗法,让她把指尖长回来.MetaMed背后的理念不仅仅是他们将浏览文献以找到最好的实验支持的治疗与一般智慧的区别,而且他们还将寻找这种大多数医院都没有听说过的最新技术。

迈克尔·阿尼西莫夫的欣赏

由于奇点大学的收购奇点峰会以及对MIRI公共传播策略的一些重大改变,Michael Anissimov于2013年1月离开MIRI。Michael继续支持我们的任务,继续为我们做志愿者。

我很高兴能和Michael在MIRI工作。Michael在我“入职”MIRI的过程中发挥了重要作用,帮助我了解MIRI社区的历史和文化,他在奇点峰会和2012年将MIRI转变为一个更有效的组织方面非常努力。

我欠迈克尔感谢他许多年的服务来米里,特别是帮助建立奇点峰会的收购,并申请自己(自己的协议),他认为需要做的任务例如,当他看到这是我们运作中的一个缺口时,他接过了MIRI的公共传播职责。

迈克尔:非常感谢你为MIRI所做的贡献!我很喜欢和你一起工作,祝你未来的冒险中好运。

路加福音Muehlhauser