Miri的九月通讯

||新闻稿

来自执行董事的问候

亲爱的朋友们,

我们的帮助,我们完成的我们最大的筹款人,为我们的研究计划提高了400,000美元。金宝博娱乐我感谢每个贡献的人!

我们继续向我们的博客发布非数学研究,包括电子书副本金宝博娱乐Hanson-Yudkowsky AI-FOF辩论(见下文)。与此同时,目前正在写入之前的数学结果,正在制作新的结果我们正在进行的决策理论研讨会

今年10月,Eliezer Yudkowsky和Paul Christiano正在谈论Miri在MIT和哈佛大学的研究。金宝博娱乐确切的细节仍然被确认,所以如果你住在波士顿附近,那么你可能想要188bet娱乐城 因此,您可以在宣布的情况下立即查看详细信息(这将是在下一个时报之前的时间)。

今年11月,Yudkowsky和我正在访问牛津,并在我们的经常合作者中“同步”人文研究所的未来在牛津大学,也跑我们的11月研究车间金宝博娱乐(在牛津)。

最后,让我与你分享一些乐趣。哲学家罗比伯格重新写下Yudkowsky's五个兄弟使用XKCD启发up-goer五个文本编辑器,它只允许使用1000个最常见的英语单词。享受

干杯,

卢克·穆罕沃斯

执行董事

Hanson-Yudkowsky AI-Fo-Fo-Fo-Fo-Fo-FoS辩论现在可用为电子书!

2008年底,经济学家罗宾汉森和AI理论家Eliezer Yudkowsky对人工智能的未来进行了在线辩论,特别是关于一般智能AIS是否能够非常快速地改善自己的能力(A.K.a.“Foom”)。James Miller和Carl Shulman还为辩论贡献了访客帖子。

原始辩论在很长一系列博客文章中进行,这里收集。本书还包括2011年汉森和Yudkowsky之间的2011年辩论的成绩单,由Kaj Sotala撰写的辩论摘要,以及Yudkowsky撰写的AI起飞动态(“智力爆炸微观经济学”)的2013年技术报告。

作者的评论包括在每个章节的末尾,以及原始帖子的链接。鼓励好奇的读者使用这些链接来查看原始帖子和所有评论。本书包含次要更新,更正和其他引用。

辩论完全免费下载各种电子书格式。看这里

新分析和访谈

与其他一些独立的研究组织一样(例如,金宝博娱乐赠送),大部分Miri的研究都将直接发布金宝博娱乐给我们的博客。

自我们的上一讯以来,我们已发布以下内容专家访谈

Holden Karnofsky对透明研究分析金宝博娱乐

我们肯定是开发新的分析和评估方法[FOREWELL LAB]。我们的浅层调查的工作框架取代了我们正在寻找的内容的“经过验证,经济效益,可扩展的慈善机构”,以“重要的,贸易,非拥挤的原因”。到目前为止,我们的大部分工作都在大自然中更具定性,旨在澄清和理解原因的基本景观,而不是评估方法的程度“已被证明”。

Stephen Hsu在认知基因组学

最近,发表了与教育程度相关的基因大规模GWA的结果科学。在这个大型合作中的一些研金宝博娱乐究人员不愿意公开说明命中率与认知能力有关(而不是说,休闲,这也会影响教育成功。但如果您仔细阅读论文,您可以看到有良好的证据表明等位基因实际上与认知能力相关(G或IQ)。

Laurent Orssseau论人工综合情报

传统的[代理AI]框架是二元的意义上的意义上,它认为代理的“思维”(代理选择其行动的过程)在环境之外。但我们都知道,如果我们在计算机上编写智能代理,这个程序和过程将不在世界之外,他们将成为其中的一部分,更重要的是,由它计算。这使我们定义了我们的时空嵌入式智能框架和方程。

我们还发表了两个新分析

安全关键系统中的透明度金宝博官方

黑匣子测试可以提供一些信心,即系统将按预期行为,但如果建立系统,这使得它对人类检查是透明的,则可以使用其他金宝博官方可靠性验证方法。不幸的是,许多AI最有用的方法是其最不透明的。基于逻辑的系统通常比统计金宝博官方方法更透明,但统计方法更广泛地使用。这项一般规则有例外,有些人正在努力使统计方法更加透明。

我们如何有效地规划未来几十年?(初始调查结果)

人类如何有效地计划未来几十年?哪些因素预测未来数十年的成功和失败?为了调查这些问题,我们询问约拿中的纪念审查历史试图计划未来几十年并总结他的调查结果。我们预先致力于在主题上发布我们的整个电子邮件交换(具有次要编辑)... [和]我们决定在调查几个历史案件后发布我们的初始调查结果。

令人欣赏卡尔舒尔曼

Carl Shulman.本月,Carl Shulman正在留下Miri全职学习计算机科学。

在他的时间与Miri,Carl撰写或共同撰写几篇文章与X风险战略和智力放大有关,其中一些仍然即将到来。他还贡献了许多出版物,他不是一个共同作者,并为研究计划做出了贡献金宝博娱乐有效利他主义的中心。他继续博客反光不平衡,并仍然是一个研究助理金宝博娱乐人文研究所的未来在牛津大学。

在过去的几年里,我享受与Carl一起工作,他仍然是一个有价值的顾问,这是一个非常广泛而深刻的掌握,在我们导航21世纪时面临人类的复杂,互锁问题。

Carl:非常感谢您与Miri的工作!祝你未来的冒险中好运。

特色志愿者:Francisco Garcia

Francisco Garcia通过将Miri的文章翻译成西班牙语来帮助解决。他的兴趣领域是机器人和自治代理商,他希望将来与Miri实习生。Francisco是马萨诸塞州大学的女士/博士学生。他最近在Shlomo Zilberstein博士的指导下加入了资源有限推理实验室(RBR)。

弗朗西斯科大约2年前通过朋友发现了关于Miri。他开始志愿服务,以便更熟悉一些关于AI的现代想法,并了解领先的研究人员,相信Miri的工作将在不遥远的未来发挥至关重要的作用。金宝博娱乐

弗朗西斯科希望建立作为研究人员的职业生涯。金宝博娱乐他对行星探索和学习机器人着迷,并在他可以研究AI方法的地方工作并将其应用于现实世界,如波士顿动态或美国宇航局。金宝博娱乐他认为,这种技术将变得更加无处不在,AI技术大大改善和导致对世界的新理解,使人类变得一种越来越高的技术,感谢技术。