执行主任的问候
亲爱的朋友们,
这是MIRI激动人心的时刻。
经过多年的提高认识和能力建设,我们终于将自己转化为一个专注于制作建立值得信赖的数学研究的研究所(或“人类友好”)机器智能。金宝博娱乐随着我们最专注的支持者知道,这一直是我们大约十年的目标,这是一个令人生气的过渡。
同样令人兴奋的是,与哲学研究和技术预测研究相比,数学研究能以更快的速度获得学术关注。金宝博娱乐在小时发布草稿我们的第一个数学结果,野外奖章蒂莫西·佩德斯看到了草案并评论了它(在这里),以及其他几位专业数学家。
4月11日,我们在旧金山的一个派对上庆祝了我们的“重新推出”。见到老朋友和结交新朋友是一件愉快的事。你可以在下面看到照片和阅读一些细节。
更多关于我们新的战略重点的细节,请看我们的博客文章:MIRI的2013年战略。
干杯,
卢克·穆罕沃斯 执行董事
MIRI的第一个数学成绩
2012年11月11日至18日,我们举行(我们现在所说的)第一届MIRI逻辑、概率和反思研讨会。这个研讨会包括在内4名参与者,并导致发现一种“漏洞”tarski的无懈可击定理(1936)可能引出解决方案Löbian难以信赖的自我修改。我们发表3月22日,解释这一结果的论文的早期版本,最新的草稿在这里:论概率逻辑中“真”的可定义性。本文的领先作者正在访问研究员金宝博娱乐保罗·基督教(加州大学伯克利分校)。
以利以谢的文章概率集理论中的反射解释结果的含义,也对结果的开发方式评论:
Paul Christiano与Marcello Herreshoff、Mihaly Barasz和我一起参加了为期一周的[MIRI研究研讨会],并提出了(通过不动点定理的一致概率反射)的想法;金宝博娱乐然后我们花了一周的时间来证明Paul的想法不可行或不能产生自我修改的AI;直到最后,它产生了一些看起来可能行得通的东西。如果我们没有试着解决这个问题……[那么]这将是数学文献中另一批不可能的结果。我之所以提到这一点,是因为它可能有助于证明友好AI是一种有效的数学方法作为数学,这可以帮助一些数学家变得感兴趣。
我们正在进行的参与者第二次Miri研讨会逻辑,概率和反射继续发展这一结果,以检查其解决令巾障碍的机会,以应对自我修改 - 或者作为研讨会参与者Daniel Dewey(牛津)称为它,“Löbstacle”。
校对者需要
由于缺乏志愿者校对者,包括金宝博娱乐Eliezer Yudkowsky的“智能爆炸微观经济学”,正在从出版物中举行几种Miri研究文章。
想成为miri的校对家吗?以下是参与其中的一些原因:
有关如何作为MIRI校对程序注册的更多详细信息,请参阅在这里。
面对智力爆炸发表
面对情报爆炸现在可以作为电子书提供!你可以的在这里。
它可以作为“付费 - 您想要的”包,其中包括三种格式的电子书:Mobi,EPUB和PDF。
它也可在亚马逊Kindle上提供(我们那加拿大那英国,和大多数其他)和苹果的iBookstore (我们那加拿大那英国和大多数人)。
所有来源都是无DRM的。抓取副本,与您的朋友分享,并在亚马逊或iBookstore上审核它。
所有收益直接用于资助技术和战略性金宝博娱乐
的机器智能研究所金宝博娱乐。
高效慈善文章
2011年,霍尔顿·卡诺夫斯基赠送写了一系列关于“高效慈善机构“:如何为您的慈善机器充满最大的爆炸。Karnofsky认为,估计慈善捐赠的预期价值的特定方法,他称之为“贝叶斯调整”的方法。一些读者将这种方法解释为提供一个先天的判断存在风险降低慈善机构(如Miri)无法高效用法慈善资金。(Karnofsky.否认这种解释。)
Karnofsky的论点是微妙而复杂的,但重要的是。由于Miri也对高效慈善机构的主题感兴趣,我们与Steven Kaas合作,为Karnofsky的帖子提供回复,标题为贝叶斯调整不会破坏存在的风险慈善机构。我们认为这并不决定了与Karnofsky的分歧要点,但它确实将对话迈出一步。Karnofsky自从两份评论中回复了我们的文章(一那二),我们期待对话将持续一段时间。
iven寓言的欣赏
由于MIRI的运营需求的变化导致我们的过渡到更多技术研究,MIRI不再需要全职执行助理,因此我们目前的执行助理IOVE寓言(金宝博娱乐linkedin)将于本月踩下。IOVIN继续支持我们的使命,他可能会在未来对我们偶尔进行缔约工作。
在过去的11个月里,我很高兴能和iven一起工作。他在将MIRI转变成一个更强大、更高效的组织中发挥了重要作用,他一贯的欢呼和专业精神将被怀念。我将他的服务推荐给任何想要雇佣某人来帮助他们组织或公司的运营和发展工作的人。
IOVI:非常感谢您的服务到MIRI!我喜欢和你一起工作,祝你好运。
卢克·穆罕沃斯
|