机器智能研究所进展报告,2012年1月金宝博娱乐

||新闻

以往进度报告:2011年12月.

以下是机器智能研究所在2012年1月所做的工作:金宝博娱乐

  • 冬季募捐:我们在一月份继续筹款,但在2月20日截止日期之前,我们的冬季筹款活动还有大约3万美元。请支持我们最近通过188betapp !
  • 战略讨论:一月份,我们就机器智能研究所的战略进行了一系列长期的讨论。哪些情景是人类最可能的“理想”未来,哪些情景对我们的物种影响最大,哪些情景机器智能研究所应该努力去影响?机器智能研究所现在应该采金宝博娱乐取哪些战术措施?我们的努力如何才能最好地与关注生存风险的其他组织产生协同效应?这些都是复杂的问题,一月份,机器智能研究所的工作人员花了几十个小时分享自己的证据和论点(有一次,我们也呼吁这些讨论今天仍在继续,我们对战略的看法似乎比月初更加统一。但还有更多的证据要收集,更多的战略分析要做。
  • 正在进行的长期项目:艾米继续为2012奇点峰会做准备。迈克尔·安尼西莫夫和其他人继续为机器智能研究所的新网站工作,该网站将提供大量新内容和更简洁的设计。作为我们透明度努力的一部分,卢克给出了金宝博娱乐第二次问答关于机器智能研究所金宝博娱乐80000小时,然后在奇点1对1. 路易继续努力改进我们的簿记和会计实务。阿尼西莫夫最后感谢了所有在2011年捐赠的捐赠者188betapp谢谢,请联系michael@singularity.org!)
  • 文章:卢克和安娜继续写“情报爆炸:证据和输入”,卡尔继续与他合作斯图尔特·阿姆斯特朗关于FHI的“军备竞赛和情报爆炸”,卢克开始在面对奇点,并出版没有上帝来拯救我们价值是复杂而脆弱的在那里。卡尔和合著者尼克·博斯特罗姆提交了一份人工智能有多难?“到意识研究杂志. 为了更少的错误,卢克出版好奇是什么样子,锁链还能锁住你吗?,理性升级,和人类隐藏的效用函数(也许); 安娜出版敦促与目标. 埃利泽继续他的新贝叶斯教程的工作。卢克和安娜写了一份关于2011年奇点峰会之后研讨会的报告,该报告将很快出版。
  • 理性群体:安娜继续领导一个新的理性教育组织的发展,这个组织暂时被称为“理性团体”战略计划,我们将很快推出这个新的组织,以便机器智能研究所能够专注于与人工智能风险相关的活动。一月份,我们为新公司试聘了一名员工金宝博娱乐联系了几十个人其他潜在的团队成员。我们也出版一节理性课的草稿作为示例(PowerPoint幻灯片+小册子PDF)。
  • 新团队成员:凯文·菲舍尔GK国际的董事加入了我们的董事会。我们还添加了几个新的金宝博娱乐研究助理:保罗克里斯蒂亚诺,泰瑞尔·麦卡利斯特,查诺斯克拉马尔,以及米哈莉·巴拉兹(谷歌瑞士分公司)。卢克雇了一个行政助理,丹尼斯·西玛德。迈克尔·瓦萨尔正式辞去总裁一职,为他的新公司工作,个性化医疗.
  • 与顾问、支持者和潜在研究人员会面:金宝博娱乐像往常一样,各个SI工作人员与数十位顾问、支持者和合作者会面或交谈,讨论如何建立生存风险社区、如何减轻AI风险、如何提高机器智能研究所的效率以及其他话题。我们还会见了几位潜在的研究人员,以评估他们的兴趣和能力。金宝博娱乐
  • 重新启动访问研究员计划:一月份,我们重新启动了访问研究员计划。我们不再一次接待许多客座研究员,而是一次只接待1-2名研究员,时间有限,每个客座研究员都有。我们一月最后一周的客座教授是普林斯顿大学哲学系的本科生杰克·内贝尔. 如果你有兴趣,请申请我们的访问研究员计划在这里.
  • 更多:重新设计HPMoR.com,继续致力于最佳慈善运动,继续撰写我们的第一份年度报告,等等。

最后,我们要承认最活跃的志愿者2012年1月:Mitchell Owen、Brian Rabkin、Huon Wilson、David Althaus、Florent Bertet、Sergio Terrero、“光波”、Emile Kroeger和Giles Edkins。谢谢大家(如果我们忘了给你起名字,我们深表歉意!)

机器智能研究所进展报告,2011年12月金宝博娱乐

||新闻

“我认为机器智能研究所有一些非常聪明的人在执行地球上最重要的任务,但金宝博娱乐是……他们到底是什么人这些天?我在黑暗中。”

我经常听到这种评论是有充分理由的。我们没有把我们的进展很好地传达给我们的支持者。

自从去年11月被任命为机器智能研究所(SI)的执行主任以来,我一直在努力改变这种状况。我给了金宝博娱乐问答并用一个简单的例子说明了我们的研究计划金宝博娱乐人工智能风险研究中的开放问题列表金宝博娱乐. 现在,我想介绍一下我们在透明度方面的最新努力:每月进度报告.阅读更多»

与机器智能研究所执行主任Luke Muehlhauser的问答2金宝博娱乐

||新闻

机器智能研究所活动金宝博娱乐

Bugmaster问:

…SIAI到底在做什么?你没有把你的工作交给你同行的严格审查……你要么没有做任何AGI研究,要么把它保密到没人知道……你也没有开发任何人工智能的实际应用……那么,除了发展SIAI本身,你实际上在做什么?金宝博娱乐

这是个好问题,也是我现在最关心的问题。捐助者想知道:可见的投资回报在哪里?当我向机器智能研究所捐款时,我怎么看得出我在购买生存风险降低?金宝博娱乐188betapp阅读更多»

新米里研究员卢克·穆哈苏尔访谈录金宝博娱乐

||对话

第一节背景与核心思想

问题1。你的个人背景是什么?
问题2。我们为什么要关心人工智能?
问题3。为什么你认为比人类更聪明的人工智能是可能的?
第四季度。机器智能研究所的使命是“确保创造出比人类更聪明的智能造福于社会”。你的研究对这一金宝博娱乐使命有何贡献?
问题5。米里制造友好人工智能的方法与阿西莫夫定律的概念有何不同?
问题6。为什么有必要制造一个“想要我们想要的东西”的人工智能?
问题7。如果要开发危险的人工智能,为什么我们不能“拔掉插头”?
问题8。为什么你和机器智能研究所专注于人工智能,而不是人类智能增强或全脑仿真?金宝博娱乐

阅读更多»

2011夏季配对挑战成功!

||新闻

在我们捐赠者的努力下,2011年夏季奇点挑战赛已经完成!所有12.5万美元的捐款将由我们匹配的支持者以美元对美元进行匹配,共筹集25万美元,用于资助机器智能研究所的运营。我们提前两天到达了目标,8月29日接近午夜。金宝博娱乐

我谨代表我们的工作人员、志愿者和整个社区,亲自感谢每一位捐款的人。你的钱起作用。188betapp

为人类更美好的未来干杯。