机器智能研究所进展报告,2011年12月金宝博娱乐

||新闻

“我认为机器智能研究所有一些非常聪明的人在从事地球上最重要的任务,但金宝博娱乐……他们到底是什么?这些天吗?我完全不知道。”

我经常听到这样的评论是有原因的。我们没有把我们的进展很好地传达给我们的支持者。

自从去年11月被任命为机器智能研究所(SI)的执行主任以来,我一直在努力改变这一点。金宝博娱乐我给两个问答介绍了我们的研究计划金宝博娱乐人工智能风险研究中存在的问题金宝博娱乐.现在,我想介绍一下我们在透明度方面的最新努力:月度进展报告

我们从上个月开始:2011年12月。2011年12月我们做了什么?

(从现在起,为了清晰起见,我将称自己为“卢克”。)

  • 冬天募款活动.我们启动了我们的冬季筹款活动,并一直在联系我们的支持者。到目前为止,筹款人已经筹集了4万多美元,尽管我们还有6万美元要去!(所以,请188betapp !)
  • 奇点峰会2012.我们的首席运营官Amy Willey在Luke的帮助下,整个月都在为2012年奇点峰会做准备。因此,我们现在已经选择了一个专业团队,我们将把峰会推向“下一个层次”,我们已经确认了几位主要的演讲者:Ray Kurzweil、Steven Pinker、Tyler Cowen、Temple Grandin、Peter Norvig、Robin Hanson、Peter Thiel、Melanie Mitchell、Vernor Vinge和Carl Zimmer。我们还同许多其他发言者开始了谈判。与2011年5月开始的奇点峰会相比,这是一个巨大的进步,我们几乎没有时间去捕捉特定的演讲者和发展特定类型的媒体报道。在如此早期的阶段取得如此大的进展,加上更大的预算和更大的专业援助,将使2012年奇点峰会成为该活动的一个重大飞跃。艾米也在安排一个可能的2012年欧洲奇点峰会。
  • 理性组织.正如我们在战略计划在美国,我们认识到专注于人工智能风险研究带来的品牌混淆金宝博娱乐因此,我们准备分拆一个独立的理性教育机构,让机器智能研究所(Machine Intelligence Research Institute)专注于人工智能风险研究。金宝博娱乐在内部,我们称这个理性教育组织为“理性组织”。在Luke的帮助下,Anna和Eliezer做了很多工作,为未来的Rationality Org制定计划。我们甚至花了更多的花时间开发核心理性课程,在不同的人群中测试它们的版本,并迭代内容。我们期望rationalorg在今年晚些时候或明年年初启动,我们期望它不仅仅是这样提高理智的底线也为降低生存风险带来了大量资金。
  • 新网站设计.我们的媒体总监,Michael Anissimov,在Luke的帮助下,制定了SI新网站的策略和设计,并与设计师一起反复设计了几次。设计师现在正在为网站编程。
  • 新的捐赠者数据库.12月,我们的发展总监Louie Helm完成了我们新的捐赠数据库的建立,包括从Paypal、谷歌Checkout等自动导入数据的自定义代码。这个数据库让我们更好地了解我们的支持者是谁,并允许我们更有效地感谢他们的支持。阿尼西莫夫给数百名过去的捐赠者写了个人感谢信。
  • 金宝博娱乐研究文章.Luke和Anna在他们的综述文章“Intelligence Explosion: Evidence and Import”中取得了持续的进展。卡尔继续与FHI他还与尼克·博斯特罗姆(Nick Bostrom)合作撰写了《人工智能有多难?》(How Hard is Artificial Intelligence?)进化论和选择效应。”
  • 其他文章.Luke为Less Wrong写了几篇文章:切掉边缘为什么要研究关于概念的认知科学,所以你想拯救世界.Eliezer在他的新贝叶斯定理教程上取得了很大的进步,包括(外包)插图和大量的观众测试。
  • 以利以谢的书.以利以谢完成了他的第一本书的计划(已经完成了大部分),改变你想法的科学.我们已经开始寻找好的代理商代理这本书。
  • 面临的奇点.卢克继续开发他的在线书籍面临的奇点这本书是一个外行人对奇点的介绍,它的后果,以及我们能做些什么。他在2011年12月所写的章节如下:疯狂机器人的反抗不考虑人工智能用“智力”玩禁忌游戏迷信在撤退我们上面有很多地方,不要退缩
  • 额外的透明度的努力.阿尼西莫夫和卢克开始为年度报告的设计和内容工作。他们也拍摄和制作卢克的视频问答#1
  • 最优的慈善事业.最佳的慈善运动(例如:尽我们所能)正呈指数级增长。卡尔和安娜与该运动的其他成员进行了大量的合作和研究。金宝博娱乐部分由于他们的工作,最优慈善运动有很大的案例意识将降低存在风险作为最佳慈善事业,这将为未来几年减少存在风险的工作带来大量资金。
  • 与顾问、支持者和潜在的研究人员会面金宝博娱乐.在2011年12月期间,各种各样的SI工作人员与数十名顾问、支持者和合作者会面或交谈,讨论如何建立存在风险社区以及其他话题。我们还会见了几位潜在的研究人员,以评估他们的兴趣和能力。金宝博娱乐
  • 谷歌Adwords升级.几个月来,路易和其他人一直在调整我们从谷歌捐赠的谷歌Adwords中获得的1万美元/月的广告。188betapp到2011年12月,我们的广告非常成功,我们有资格升级,现在我们每个月可以通过谷歌Adwords获得4万美元的免费广告收入。
  • 更好的财务管理.2011年12月,我们开始培训我们的新司库,长期捐助者和SI的朋友,Jesse Liptrap。这意味着组织之外的人在密切关注我们的财务状况。我们还开始改进我们的簿记和会计做法,这将允许更好的预算、预测和资源管理。
  • 未发表的研究金宝博娱乐.与大多数研究机构一样,我们金宝博娱乐的大多数研究在1-3年的时间里不会发表论文,即使有的话,即使它反映了我们对许多事情的看法。2011年12月未发表的金宝博娱乐研究包括人口伦理、脑机接口、最佳慈善事业、技术预测、核灭绝风险、人工智能架构、人类学、决策理论、理性培训、Oracle人工智能、科学生产力等等。《科学探究金宝博娱乐》的研究伙伴对这方面的一些研究做出了贡献,包括“错误较少”的讨论帖子一个带有暂停的oracle的UDT模型
  • 新董事会成员Quixey联合创始人兼首席执行官,托马·卡根他被加入了SI的董事会。Tomer是我们的好朋友,给我们的团队带来了丰富的业务和管理经验。
  • .当然,我们还参与了许多其他较小的项目。这些包括:更新IntelligenceExplosion.com;发展理性组织的联系;定期组织SI员工聚餐,促进协调和友谊;在彼得·蒂尔(Peter Thiel)的“快进”(Fast Forward)派对上与捐赠者交谈;建立志愿人员和助理人员数据库;实现Olark在我们的188betapp ;会见来自各媒体组织的记者;上传旧视频到Vimeo和YouTube;修复网站上的错误和过时的内容;完成我们2010年的990,并把它发给布兰登·莱因哈特,添加到他的财务检查机器智能研究所的研究员,正在准备一份金宝博娱乐SI研究出版物的新模板金宝博娱乐(由研究助理丹尼尔·杜威提金宝博娱乐供);等等。