2013年1月通讯

||新闻稿

执行主任的问候


尊敬的机器智能研究所的朋友们:,金宝博娱乐

我刚在机器智能研究所任职一年多。回顾过去,我必须说,我为我们去年取得的成就感到骄傲。金宝博娱乐

从2011年起考虑“2011-2012年最优先事项”2011年8月战略计划. 第一要务是“面向公众的创造积极奇点的研究”金宝博娱乐2012年MIRI的同行评审出版物数量超过过去几年的总和(好吧,除了一些定于2012年出版的出版物延迟直到2013年,但你仍然可以从网站下载这些出版物的预印本金宝博娱乐 ).

我们的第二个优先事项是“外联/教育/筹资”。外联和教育主要通过奇点首脑会议和新的活动来实现应用理性中心它是从机器智能研究所剥离出来的,但现在它自己的501c3组织完全是由自己的资金运作的。至于筹款:2金宝博娱乐012年是我们迄今为止最成功的一年。

我们的第三个优先事项是“提高组织效率”。在这方面,我们在2012年实现了跨越式增长。在这一年中,我们建立了第一个全面的捐助者数据库(以改善捐助者关系),推出了定期通讯(以改善公共沟通),在整个组织内建立管理和会计方面的最佳实践,开始跟踪所有主要项目的成本和预期收益,开始在伯克利租一间新办公室,现在每天都有活动,更新了我们网站上的设计和内容,赚了40美元,000个/月的免费谷歌广告词,将流量定向到MIRI网站属性,等等。

我们的第四个优先事项是举办年度奇点峰会。我们不仅高兴地参加了我们最专业的峰会,而且还将这次峰会出售给奇特大学(SU)。我们相信,峰会是在良好的手中,我们也很高兴,苏收购奇点峰会提供了一些急需的资金,扩大我们的研究计划。金宝博娱乐

也就是说,此次峰会收购的大部分资金都是专门为友好人工智能研究人员设立的,不支持我们的日常运作。为此,我们需要你的帮助!拜托金宝博娱乐为我们持续的匹配挑战作出贡献,1月20日结束!

向前和向上,

卢克

阅读更多»

2012年12月通讯

||新闻稿

执行主任的问候


亲爱的奇点研究所的朋友们,

本月标志着我们的业务发生了自上次危机以来最大的转变奇点峰会成立于2006。现在奇点大学已经获得奇点峰会(详情见下文)和SI对理性训练的兴趣正在由现在独立的应用理性中心,奇点研究所正在进行重大转变. 12年来,我们主要关注运动建设——通过奇点峰会,少点错,以及其他程序。这项工作需要为我们的任务建立一个支持社区,为我们独特的跨学科工作建立一个潜在的研究人员库。金宝博娱乐

现在,是时候说“任务完成得足够好,可以转向研究了。”我们的支持者社区现在已经足够大,如果我们有能力雇用他们,我们可以雇用合格的研究人员。出版的金宝博娱乐金宝博娱乐 还有几十个原来的研究文章少了金宝博娱乐点错,我们当然没有忽视研究。但是2013年,我们计划集中精力,以便我们筹集的资金中有更大的份额用于研究金宝博娱乐. 如果你愿意帮忙的话,请为我们持续的筹资努力作出贡献.

向前和向上,

卢克

阅读更多»

2012冬季配对挑战!

||新闻

多亏了几个主要捐助者的慷慨捐助,截至2013年1月5日,机器智能研究所收到的每一笔捐款都将是一美元对一美元,总计11.金宝博娱乐5万美元!

188betapp

$0

2875万美元

57.5万美元

8625万美元

11.5万美元

现在是你的机会加倍你的影响力同时帮助我们筹集到23万美元来帮助基金金宝博娱乐 .

188betapp

(如果您不熟悉我们的任务,请查看新闻资料袋阅读我们的简短研究总结:金宝博娱乐减少人工智能带来的长期灾难性风险.)

现在奇点大学已经获得这个奇点峰会,而SI在理性训练中的兴趣正在由现在的独立发展恒虚警,机器智能研究院正在进行深刻的转型金宝博娱乐. (请注意,此次收购的大部分资金都放在一个单独的基金中,用于友好的人工智能研究人员,因此不支持我们的日常运营或其他项目。)金宝博娱乐

12年来,我们主要关注运动建设——通过奇点峰会,少点错,以及其他程序。这项工作需要为我们的任务建立一个支持社区,为我们独特的跨学科工作建立一个潜在的研究人员库。金宝博娱乐

现在,现在,我们应该说“完成了任务”,或者至少“任务完成得足够好,足以转移到研究上。”我们的支持者群体现在已经足够大,如果我们能负担得起雇佣他们,那么我们可以雇佣许多合格的研究人员。金宝博娱乐

出版的金宝博娱乐 还有几十个原来的研究文章少了金宝博娱乐点错,我们当然没有忽视研究。但是2013年,我们计划集中精力,以便我们筹集的资金中有更大的份额用于研究金宝博娱乐.

2012年的成就

你可以帮助支持的未来计划

在未来几个月,我们计划执行以下工作:

  • 作为奇特大学收购奇特峰会的一部分,我们将改变我们的名字并推出一个新网站。
  • 埃利泽将公布他的序列友好AI中的开放问题.
  • 我们将为我们的许多核心材料出版经过精心编辑的电子书(Kindle、iBooks和PDF),以使它们更易于访问:序列,2006-2009,面对奇点,和汉森·尤德科夫斯基·艾福辩论.
  • 我们将发表更多的研究论文,包括“应对灾难性AGI风险:调查金宝博娱乐”和简短的技术介绍永恒决策论.
  • 我们将建立基础设施,以接待一个富有成效的友好AI团队,并努力招募足够的顶级数学人才来启动它。

(其他项目仍在调查可能的成本和战略影响。)

我们感谢您对我们高影响力工作的支持!现在就捐赠,抓住比平时更好的机会,把我们的工作向前推进。信用卡交易可以188betapp使用PayPal或Google签出安全地处理。如果您对捐赠有疑问,请联系LouieHelm,电话(510)717-1477或louie@www.gqpatrol.com.

埃德温·埃文斯、米哈利·巴雷斯、罗布·扎赫拉、阿列克谢·安德烈耶夫、杰夫·博恩、迈克尔·布鲁姆、盖伊·斯里尼瓦桑和凯文·费舍尔提供了11.5万美元的总配套资金。

再一次,一位记者认为我们的立场与他们的立场相反

||分析

也许机器情报研究所(MIRI)目前接受的最准确的媒体报道是金宝博娱乐一块传奇科学作者卡尔齐默在里面花花公子. 让你知道有多不准确我们的媒体报道的一部分是,这里有一段(翻译)引自《米里》的一些报道法德纪录片:

然而,在旧金山,一个年轻的志愿科学家协会相信机器人的好处。真天真!在[米里]…

这样的话很有趣,因为,当然,机器智能研究所已经说过,十年来AI将金宝博娱乐默认情况下对人类是有害的极其困难设计一个“道德机器”,我们和其他人都不知道该如何去做,而且几十种方法别人提出的建议是天真的,由于某种原因是不够的。

现在,在一件新的对于《星期日泰晤士报》,BryanAppleyard写:

尤德科夫斯基(来自米里)在我看来,他对道德规范的理解似乎过于简单。”“你不会杀了一个婴儿,”他对我说,暗示这是一个很容易被编程成机器的规范。

“有些人是这样的,”我指出,但他没有看到全部的意义。党卫军军官经常杀害婴儿,因为他们是以纳粹主义的形式产生的社会的一种调整。无论我们如何编程,机器都会从根本上脱离人类的社会规范。

再次:米里已经说过十年来,要编程一台机器,不杀死婴儿是非常困难的。事实上,我们的立场是,直接制定道德规范是行不通的,因为我们的价值观比我们意识到的要复杂得多. 道德规范的直接规划其他人提出了,我们批评了这一立场。例如,这里引用了简略我们的研究项目金宝博娱乐:

由于我们无法自省地了解人类价值观的细节,因此解决这个问题的方法可能涉及设计AI,通过观察人类、提问、扫描人脑等来学习人类价值观,而不是用一组固定的必要性预先编制的AI,听起来像是当时的好主意。

但这并不意味着我们可以简单地让一些先进的机器学习算法观察人类的行为来学习我们的道德价值观,因为:

人类文明明确的道德价值观随着时间的推移而发生了变化,我们把这种变化视为进步,并推断这种进步可能在未来继续下去。一个用1800的显式值编程的人工智能可能正在为重建奴隶制而战斗……可能的引导算法包括“如果我们知道你所知道的一切,我们会告诉你做什么”,“如果我们和你一样快,并且可以考虑更多可能的道德论证,那么就去做我们应该告诉你的事情。”在道德哲学中,这种道德进步的概念被称为反思平衡。

继续说下去…阿普尔亚德的观点“机器将更彻底地调整远离人类社会规范,无论我们如何编程”是米莉从一开始就提出的另一个观点。参见“中关于反对拟人化的警告”创建友好AI“(2001年)及人工智能在全球风险中的正负因素“(2005年编写,2008年出版)。AI的思维设计对我们来说将远远超过电影中外星人的思维。

Appleyard接着说:

[与MIRI相比,]剑桥集团对这些问题的理解要复杂得多。价格,特别是,意识到机器不会受到社会压力,以使其表现良好。

“当你想到智力可能采取的形式时,”普莱斯说,“我们似乎有理由认为我们占据了这个空间的一个小角落,有很多方法,有些东西可能以与我们的头脑完全不同的方式来智能化。”

Appleyard似乎没有意识到,在这里,价格基本上引用了MIRI研究员EliezerYudkowsky长期强调的一点,那就是有一个巨大的可能的思维空间,人类只占据了这个空间的一个小角落。事实上,这一点与米里和伊利泽尤德科金宝博娱乐夫斯基的关系比任何人都要多!这是尤德科夫斯基2005年写的另一篇引述:

“人工智能”一词指的是比“智人”一词更大的可能性空间。当我们谈论“AIs”时,我们实际上是在谈论一般的思想,或者说总体上的优化过程。想象一下一张心灵设计空间图。在一个角落,一个小圆圈包含了所有的人类;在一个包含所有生物生命的大的小圆圈内;而其余的巨大地图都是头脑的空间。整个地图漂浮在一个更广阔的空间,优化过程的空间…正是这个巨大的可能性空间,取缔了拟人主义作为正当推理。

所以再一次,一位记者认为米里的立场与他们的立场相反。

当心你在大众媒体上读到的东西!

更新我告诉阿普莱德他的错误,他只是否认他的文章在这件事上犯了错误。

2012年11月通讯

||新闻稿

执行主任的问候


尊敬的机器智能研究所的朋友们:,金宝博娱乐

感谢数十名工作人员、承包商和志愿者,他们帮助了今年奇点峰会我们最专业最激动人心的峰会!会谈的录像现在正在播放在线但我同情那些错过现场活动和杀手游说现场的人。今年我们在日程安排上为交流和网络腾出了更多的空间,每个人似乎都喜欢。毕竟,未来不仅仅是由信息和信息技术创造的,而是由人的社区他们决定一起创造未来。

每年的峰会都是一项巨大的工作,所以有这么多人接近我,无缘无故地说:“哇,这是迄今为止最好的峰会!”“你们今年真的把它提升到了下一个水平;太好了!”周日晚上,我重温了那些时刻,我陷入了幸福的昏迷,这将偿还几个星期的睡眠债务。

卢克·穆哈苏尔

阅读更多»

2012年9月通讯

||新闻稿

执行主任的问候

八月是机器情报研究所的一个繁忙的月。由于我们成功的夏季募捐活动,我们在所有方面都在全力前进:金宝博娱乐奇点峰会2012,发布恒虚警,增加研究产出(见下文)金宝博娱乐,并以几十种方式提高组织效率。

感谢您在我们努力实现积极奇异性的过程中继续给予的支持。

卢克·穆哈苏尔

阅读更多»

2012年8月通讯

||新闻稿

本通讯于2012年8月初发送给通讯订户。

执行主任的问候

这个月的大新闻是我们超过了我们的筹款目标在7月份筹集30万美元的资金。感谢所有捐赠的人!你的贡献将帮助我们完成发射188betapp恒虚警并开始建立一个更大、更富有成效的研究团队,在以下方面进行工作金宝博娱乐世界上最重要的研究问题金宝博娱乐. 卢克·穆哈苏尔

阅读更多»