7个新技术报告和一篇新论文

||Papers

Recently, MIRI released 7 brief technical reports that explain several pieces of theoretical progress made at our2013年12月研究研讨会金宝博娱乐。这些结果中有几个基于我们的工作七月November2013年的讲习班,以及Paul Christiano,Benja Fallenstein金宝博娱乐等人的工作室间研究。

To understand these technical reports in context, and to discuss them, please see Benja Fallenstein’s post:Miri 12月研讨会的结果。也可以看看帖子关于研讨会参与者约翰·贝兹(John Baez)的讲习班。

这7个技术报告是:

Also,尼克·韦弗attended the first day of the workshop, and gave a tutorial on his response paper to Yudkowsky & Herreshoff’stiling agents paper,,,,titled “理性代理机构和正式系统的悖论,这些系统验证自己的健全性金宝博官方。”Benja Fallenstein对Weaver的“自然主义信任”的想法的评论在这里:AIS中的自然主义信任

Winter 2013 Fundraiser Completed!

||新的s

哇!美里的捐助者刚完成我们的2013 winter matching challengethree weeks ahead of the deadline!

碰巧的是,完成此驱动器的人是帕特里克·拉维克托尔(Patrick Lavictoire),他说他的捐款是他的产物altruism tip jar习惯。

我没想到会这么快完成筹款活动。基本上,这是因为3:1的“新大捐助者”匹配了比我们希望的要好:这个筹款活动“新的大捐助者”,这是一个罕见的数字。

对于那些想知道他们是否应该为Miri或其儿童组织CFAR做出贡献的人,答案现在很明确:请为CFAR正在进行的筹款活动

非常感谢所有贡献的人!

Josef Urban在机器学习和自动推理上

||对话

约瑟夫城市肖像约瑟夫城市是荷兰Nijmegen的Radbou金宝博娱乐d大学计算与信息科学研究所的博士后研究员。他的主要兴趣是开发与大型正式(完全具有语义指定)知识库的组合归纳和演绎AI方法,例如大型正式陈述的数学定义,定理和证明。这涉及演绎的AI字段,例如自动定理证明(ATP)和归纳性AI字段,例如机器学习。2003年,他制作了ATP和AI方法的最大形式数学语料库 - Mizar库,此后一直在为AI和自动化推理开发第一个方法,系统和基准。金宝博官方他的机器学习者用于自动推理(Malarea)在2013年通过数学方面的大多数问题解决了大多数问题的大多数问题CADE自动化系统竞赛(CAS金宝博官方C)。该系统基金宝博官方于推论新的证据和学习如何基于成功证明指导推理过程的几个积极反馈回路。此类AI方法也被部署为有助于交互式定理的系统金宝博官方Mizar,,,,Isabellehol灯

他于2004年获得布拉格查尔斯大学的计算机科学博士学位,并于1998年获得同一大学的数学学位。2003年,他共同创立了该大学布拉格自动推理小组,从2006年到2008年,他是迈阿密大学的玛丽·弗里(Marie-Curie)研究员。

卢克·穆尔豪瑟(Luke Muehlhauser): 在Urban&Vyskocil(2013)和其他文章,您在数学的形式化和自动化定理证明中撰写了有关艺术的文章。在我在这种情况下询问机器学习之前,您能否迅速为我们总结一下我们在此阶段可以做什么,而在自动定理证明时可以做什么?


约瑟夫城市:最著名的结果是罗宾斯猜想的证明是自动发现的Bill McCune的系统金宝博官方EQP 1996年。自动定理证明(ATP)今天可以用于解决一些开放的方程式代数问题,例如准循环理论。这种开放问题的证明可能是数千个推论,与数学家产生的证据完全不同。解决ATP问题通常不是“按钮”的问题。它可能需要特定的问题重新进行(通常仅涉及几个公理),适用于ATP,探索适合ATP搜索参数,有时还指导Lemmas(“提示”)的最终证明尝试,这些尝试可用于解决更简单的相关问题。

如今,ATP也用于证明由Mizar,Isabelle和Hol Light等交互式定理掠夺(ITP)开发的大型正式图书馆中的小引理。这称为“大理论” ATP。在过去的十年中,我们发现这些ITP中可用的大型数学库(数千个定义和定理),通常也可以自动从此类库中自动选择相关的先前知识,并自动找到小窃听的证据。任何手动预处理。这些证据通常比方程代数问题的长期证明要短得多,但即使这已经对使用ITP进行正式证明更高级定理的人们有很大帮助。

一个说明性的例子是飞菜(“开普勒的正式证明”)由汤姆·海尔斯(Tom Hales)领导的项目,他在1998年证明了开普勒的猜想。证明是如此涉及,以至于确保其正确性的唯一方法是使用ITP进行正式验证。汤姆·海尔斯(Tom Hales)最近写了300页的书关于证明,大多数概念,引理和证据都具有可靠的“飞镜”对应物,并在HOL LIND中陈述和验证。Hales估计这已经花费了大约20个男子年。最近,我们显示可以通过大理论ATP方法自动找到14000个小型飞盘引理中约47%的证明。这意味着唯一需要的精神努力是将这些引理在HOL光中正式陈述。同样,警告是,从图书馆中已经存在的其他引理中,诱饵必须很容易证明。另一方面,这意味着,一旦我们拥有如此大的正式演讲日常数学语料库,就可以将语料库与大理论ATP方法一起使用,以解决许多简单的正式数学问题。

最近的另一个有趣的发展是ATP方法,它们有效地结合了“推理”和“计算”。对于ATP系统来说,这是一个长期的挑战,尤其是用于软件和硬件验证时。金宝博官方最近的SMT(满意度模型理论)系统,例如金宝博官方Z3整合了许多关于线性和非线性算术,比特向量等的决策程序。我不是该领域的专家,但我的印象是,这种系统的增长正在使复杂硬件和软件的正式正式验证完全正式验证金宝博官方金宝博官方系统越来越现实。

阅读更多 ”

2013年评论:操作

||MIRI Strategy

自我们已经八个月了big strategic shiftto a focus on Friendly AI research. What has worked well? What hasn’t? What have we learned? In this and several upcoming posts, I’ll provide a2013年对Miri的定性和个人自我审查

这篇评论将主要是定性因为我们尚未找到定量指标,这些指标在跟踪我们实际关心的内容方面做得不错(见下文)。评论将是个人的因为Miri员工具有多种观点,因此我通常会为自己而不是整个组织讲话。

我将评论分为六个帖子:操作(此帖子),outreach,,,,战略研究金宝博娱乐,,,,友好的AI研究金宝博娱乐,,,,筹款,还有我们的2014年中期战略计划

2013年的运营

  1. 2013年是Miri的能力建设的重要一年 - 不是通过雇用更多的人,而是与我们拥有的人一起做更多的人。
  2. 也就是说,这一进步花费了很多执行时间,我应该更积极地寻找以更少的高管时间来实现这一目标的方法。
  3. 由于(2),我们在指标和系统实验方面的进展并不如我希望在2013年所希望的。金宝博官方

阅读更多 ”

新的Paper: “Why We Need Friendly AI”

||Papers

思考期刊页面卢克·穆尔豪瑟(Luke Muehlhauser)和尼克·博斯特罗姆(Nick Bostrom)的新论文,“为什么我们需要友好的AI,”已发表在最新一期的《剑桥杂志》上思考:每个人的哲学

抽象的:

人类并不总是是地球上最聪明的特工,他们会转向未来。当我们不再扮演这个角色时,我们会发生什么,以及如何为这种过渡做准备?

本文受到剑桥大学出版社的版权,并经许可在Miri网站上复制。该论文出现在第13卷,第36期

美里的December 2013 Newsletter

||新闻通讯

Machine Intelligence Research Institute

亲爱的朋友们,我们仍在尝试新的超大通讯风格。请通过回复此电子邮件告诉我们您的想法。谢谢!

美里的winter 2013 matching fundraiser开启!1月15日之前捐款的所有捐款将与彼得·泰尔(Peter Thiel)相匹配,3倍匹配对于“新大捐助者”:如果您过去的总计少于5,000美元,现在给出或承诺$ 5,000或更多,那么您的影响将是您的影响四倍呢如果您想询问您是否有资格参加3倍匹配,请回复此电子邮件。

这是迄今为止我们筹款进展的最近快照:


其他新闻更新

金宝博娱乐研究更新

As always, please don’t hesitate to let us know if you have any questions or comments.

最好的,
卢克·穆尔豪瑟(Luke Muehlhauser)
执行董事

斯科特·亚伦森(Scott Aaronson)on Philosophical Progress

||对话

斯科特·亚伦森(Scott Aaronson)肖像斯科特·亚伦森(Scott Aaronson)是麻省理工学院电气工程和计算机科学的副教授。在此之前,他在加州大学伯克利分校(UC Berkeley)获得了计算机科学博士学位,以及普林斯顿大学高级研究所和滑铁卢大学的高级研究所。他的研究金宝博娱乐重点是量子计算机的功能和限制,更普遍地介绍了计算复杂性与物理学之间的联系。亚伦森以他的博客以及建立复杂性动物园(an online encyclopedia of complexity classes); he’s also written about quantum computing for Scientific American and the New York Times. His first book,量子计算以来,今年由剑桥大学出版社出版。他获得了Alan T. Waterman奖,PECASE奖和麻省理工学院的少年Bose卓越教学奖。

卢克·穆尔豪瑟(Luke Muehlhauser):尽管您以理论计算机科学的工作而闻名,但您还创作了一些非常有趣的哲学作品,例如在量子计算以来,“”Why Philosophers Should Care About Computational Complexity,“ 和 ”量子图灵机中的幽灵。”您还教了2011年秋季麻省理工学院课程哲学和理论计算机科学

您为什么对哲学如此感兴趣?从您的角度来看,哲学的社会价值是什么?


斯科特·亚伦森(Scott Aaronson):我总是本能地次大陆所吸引t, most general questions that it seemed possible to ask. You know, like are we living in a computer simulation? if not, could we upload our consciousnesses into one? are there discrete “pixels” of spacetime? why does it seem impossible to change the past? could there be different laws of physics where 2+2 equaled 5? are there objective facts about morality? what does it mean to be rational? is there an explanation for why I’m alive right now, rather than some other time? What解释,反正吗?实际上,真正使我感到困惑的是,当我遇到一个聪明,好奇的人(说是数学家或科学家)时,他声称不痴迷于这些巨大的问题!我怀疑许多美里读者可能会像我一样被吸引到这样的问题,在这种情况下,无需重点。

从我的角度来看,构建问题的最佳方法不是:“为什么对哲学感兴趣?”而是:“为什么对其他任何东西感兴趣?”

But I think the latter question has an excellent answer. A crucial thing humans learned, starting around Galileo’s time, is that even if you’re interested in the biggest questions, usually the only way to make progress on them is to pick off smaller subquestions: ideally, subquestions that you can attack using math, empirical observation, or both. For again and again, you find that the subquestions aren’t nearly as small as they originally looked! Much like with zooming in to the Mandelbrot set, each subquestion has its own twists and tendrils that could occupy you for a lifetime, and each one gives you a new perspective on the big questions. And best of all, you can actuallyanswer一些子问题,并成为第一个这样做的人:即使只有小额数量,您也可以永久移动人类知识的针头。正如我曾经提到的那样,数学和科学方面的进步 - 想想自然选择,戈德尔和图灵的定理,相对论和量子力学 - 随着哲学讨论,反复改变了哲学讨论的术语本身很少改变他们!(当然,这完全抛弃了数学和科学的“附带利益”,即使我们的技术文明也不是鸡肉饲料。)

阅读更多 ”

2013年冬季匹配挑战

||新的s

谢谢彼得·蒂尔,从现在到2014年1月15日,向美里捐款将是matched dollar-for-dollar

Also,“新大捐助者”的礼物将与3倍相匹配!That is, if you’ve given less than $5k to SIAI/MIRI ever, and you now give or pledge $5k or more, Thiel will donate $3 for every dollar you give or pledge.

We don’t know whether we’ll be able to offer the 3:1 matching ever again, so if you’re capable of giving $5k or more, we encourage you to take advantage of the opportunity while you can. Remember that:

  • 如果您愿意每月付出,没问题!如果您承诺每月捐款6个月,那么您的6个月承诺将是要匹配的捐款金额。因此,如果您每月给出,则可以以3:1的价格获得3:1的匹配,价格为$ 834/mo(如果您可以从雇主那里获得匹配)。
  • 我们接受比特币(BTC)和波纹(XRP),两者最近都跃升了。如果您的比特币或波纹的市场价值在您进行捐款之日为$ 5K或以上,这将计算在内。
  • If your employer matches your donations at 1:1 (check这里), then you can take advantage of Thiel’s 3:1 matching by giving as little as $2,500 (because it’s $5k after corporate matching).

请发送电子邮件malo@www.gqpatrol.comif you intend on leveraging corporate matching or would like to pledge 6 months of monthly donations, so that we can properly account for your contributions towards the fundraiser.

Thiel’s total match is capped at $250,000. The total amount raised will depend on how many people take advantage of 3:1 matching. We don’t anticipate being able to hit the $250k cap without substantial use of 3:1 matching — so if you haven’t given $5k thus far, please consider giving/pledging $5k or more during this drive. (If you’d like to know the total amount of your past donations to MIRI, just askmalo@www.gqpatrol.com

$0

$ 62.5K

$125K

$187.5k

$ 250K

我们已经达到了25万美元的匹配!

现在是您的机会双重或四倍的影响在我们的资金中金宝博娱乐

自2013年7月我们筹款以来的成就启动:

如何使用边际资金?

  • 雇用友好的AI研究人员金宝博娱乐,通过我们的研讨会确定,因为它们可以在Miri的全职工作。
  • 跑步更多研讨会(next one begins12月14日), to make concrete Friendly AI research progress, to introduce new researchers to open problems in Friendly AI, and to identify candidates for MIRI to hire.
  • 描述更多友好AI中的开放问题。我们目前的策略是让Yudkowsky通过Facebook讨论尽快解释它们,然后是其他人与Yudkowsky合作编写的更具结构化的解释。
  • 改善人类战略理解如何处理超级智能。在接下来的几个月中,这将包括(1)在我们的博客上进行的其他访谈和分析,(2)尼克·博斯特罗姆(Nick Bostrom)即将推出的读者指南Superintelligencebook,(3)目前标题为介绍性电子书比我们更聪明。

其他项目仍在调查可能的成本和影响。

感谢您对我们的工作的支持!188betapp ,并抓住比平常更好的机会前进的机会。如果您对捐赠有疑问,请通过(510)717-1477或louie@www.gqpatrol.com与Louie Helm联系。