MIRI的四月通讯:重新启动庆典和一个新的数学成绩

||新闻稿


执行主任的问候

亲爱的朋友们,

这是MIRI激动人心的时刻。

经过多年的提高认识和能力建设,我们终于将自己转化为一个专注于制作建立值得信赖的数学研究的研究所(或“人类友好”)机器智能。金宝博娱乐随着我们最专注的支持者知道,这一直是我们大约十年的目标,这是一个令人生气的过渡。

同样令人兴奋的是,与哲学研究和技术预测研究相比,数学研究能以更快的速度获得学术关注。金宝博娱乐在小时发布草稿我们的第一个数学结果,野外奖章蒂莫西·佩德斯看到了草案并评论了它(在这里),以及其他几位专业数学家。

4月11日,我们在旧金山的一个派对上庆祝了我们的“重新推出”。见到老朋友和结交新朋友是一件愉快的事。你可以在下面看到照片和阅读一些细节。

更多关于我们新的战略重点的细节,请看我们的博客文章:MIRI的2013年战略

干杯,

卢克·穆罕沃斯
执行董事

Miri重新安置庆祝在旧金山

4月11日,在枢纽旧金山, MIRI庆祝它名称变更及其“重新启动“作为数学研究所。金宝博娱乐派对也是我们持续的庆祝活动第二次研金宝博娱乐究研讨会,以Miri Research C金宝博娱乐herly Eliezer Yudkowsky和11名来自北美和欧洲的研究人员为特色。大约有50人参加了聚会。

我们的党通过访问研究员包括简短的介绍金宝博娱乐乔科元(加州大学伯克利分校)。乔楚(他喜欢这样解释:像食物和咀嚼”)解释了MIRI研究议程上的一个未解决的问题金宝博娱乐Löbian自我修改系统的障碍金宝博官方他解释了为什么我们希望AI能够相信其继承人AIS,为什么Löb的定理是那种障碍,又是怎样的呢我们第一次研讨会的新概率逻辑金宝博娱乐也许能找到解决办法。

除了通常的食物和饮料,我们的团队还提供了画架上的海报板,以便出席的研究人员可以向任何感兴趣的人解释他们的工作——或者,人们可以随意涂鸦。金宝博娱乐

活动中的其他照片将发布即将发布 - 通过188bet娱乐城 或者我们Facebook Page.

MIRI的第一个数学成绩

2012年11月11日至18日,我们举行(我们现在所说的)第一届MIRI逻辑、概率和反思研讨会。这个研讨会包括在内4名参与者,并导致发现一种“漏洞”tarski的无懈可击定理(1936)可能引出解决方案Löbian难以信赖的自我修改。我们发表3月22日,解释这一结果的论文的早期版本,最新的草稿在这里:论概率逻辑中“真”的可定义性。本文的领先作者正在访问研究员金宝博娱乐保罗·基督教(加州大学伯克利分校)。

以利以谢的文章概率集理论中的反射解释结果的含义,也对结果的开发方式评论:

Paul Christiano与Marcello Herreshoff、Mihaly Barasz和我一起参加了为期一周的[MIRI研究研讨会],并提出了(通过不动点定理的一致概率反射)的想法;金宝博娱乐然后我们花了一周的时间来证明Paul的想法不可行或不能产生自我修改的AI;直到最后,它产生了一些看起来可能行得通的东西。如果我们没有试着解决这个问题……[那么]这将是数学文献中另一批不可能的结果。我之所以提到这一点,是因为它可能有助于证明友好AI是一种有效的数学方法作为数学,这可以帮助一些数学家变得感兴趣。

我们正在进行的参与者第二次Miri研讨会逻辑,概率和反射继续发展这一结果,以检查其解决令巾障碍的机会,以应对自我修改 - 或者作为研讨会参与者Daniel Dewey(牛津)称为它,“Löbstacle”。

校对者需要

由于缺乏志愿者校对者,包括金宝博娱乐Eliezer Yudkowsky的“智能爆炸微观经济学”,正在从出版物中举行几种Miri研究文章。

想成为miri的校对家吗?以下是参与其中的一些原因:

  • 在我们的潜行偷看金宝博娱乐 在他们公开可用之前。
  • 赚取积分mirivolunteers.org.,我们的在线志愿者系统运行金宝博官方mirivolunteers.org.,我们的在线志愿者系统运行金宝博官方Youtopia。(即使您对该点不感兴趣,通过youtopia跟踪您的时间,请帮助我们管理和量化志愿者校对努力。)
  • 拥有优秀的出版物对MIRI来说是很有价值的。
  • 帮助加快出版过程。校对是目前是我们最大的瓶颈。

有关如何作为MIRI校对程序注册的更多详细信息,请参阅在这里

面对智力爆炸发表

面对情报爆炸现在可以作为电子书提供!你可以的在这里

它可以作为“付费 - 您想要的”包,其中包括三种格式的电子书:Mobi,EPUB和PDF。

它也可在亚马逊Kindle上提供(我们加拿大英国,和大多数其他)和苹果的iBookstore (我们加拿大英国和大多数人)。

所有来源都是无DRM的。抓取副本,与您的朋友分享,并在亚马逊或iBookstore上审核它。

所有收益直接用于资助技术和战略性金宝博娱乐 机器智能研究所金宝博娱乐

高效慈善文章

2011年,霍尔顿·卡诺夫斯基赠送写了一系列关于“高效慈善机构“:如何为您的慈善机器充满最大的爆炸。Karnofsky认为,估计慈善捐赠的预期价值的特定方法,他称之为“贝叶斯调整”的方法。一些读者将这种方法解释为提供一个先天的判断存在风险降低慈善机构(如Miri)无法高效用法慈善资金。(Karnofsky.否认这种解释。)

Karnofsky的论点是微妙而复杂的,但重要的是。由于Miri也对高效慈善机构的主题感兴趣,我们与Steven Kaas合作,为Karnofsky的帖子提供回复,标题为贝叶斯调整不会破坏存在的风险慈善机构。我们认为这并不决定了与Karnofsky的分歧要点,但它确实将对话迈出一步。Karnofsky自从两份评论中回复了我们的文章(),我们期待对话将持续一段时间。

iven寓言的欣赏

由于MIRI的运营需求的变化导致我们的过渡到更多技术研究,MIRI不再需要全职执行助理,因此我们目前的执行助理IOVE寓言(金宝博娱乐linkedin)将于本月踩下。IOVIN继续支持我们的使命,他可能会在未来对我们偶尔进行缔约工作。

在过去的11个月里,我很高兴能和iven一起工作。他在将MIRI转变成一个更强大、更高效的组织中发挥了重要作用,他一贯的欢呼和专业精神将被怀念。我将他的服务推荐给任何想要雇佣某人来帮助他们组织或公司的运营和发展工作的人。

IOVI:非常感谢您的服务到MIRI!我喜欢和你一起工作,祝你好运。

卢克·穆罕沃斯