机器智能研究所进展报告,2011年12月金宝博娱乐

||新闻

“我认为机器智能研究所有一些非常聪明的人在执行地球上最重要的任务,但金宝博娱乐是……他们到底是什么人这些天?我在黑暗中。”

我经常听到这种评论是有充分理由的。我们没有把我们的进展很好地传达给我们的支持者。

自从去年11月被任命为机器智能研究所(SI)的执行主任以来,我一直在努力改变这种状况。我给了金宝博娱乐问答并用一个简单的例子说明了我们的研究计划金宝博娱乐人工智能风险研究中的开放问题列表金宝博娱乐. 现在,我想介绍一下我们在透明度方面的最新努力:每月进度报告.

我们从上个月开始:2011年12月。2011年12月我们做了什么?

(从这一点开始,为了清楚起见,我将自己称为“卢克”。)

  • 冬季募捐. 我们发起了冬季筹款活动,并一直在联系我们的支持者。到目前为止,募捐活动已经筹集了4万多美元,尽管我们还有6万美元要走(所以,求你了188betapp !)
  • 奇点峰会2012. 我们的首席运营官艾米·威利(Amy Willey)在卢克的大力帮助下,整个月都在为2012年奇点峰会做准备。因此,我们现在选择了一个专业团队,与他们一起将峰会推向“下一个层次”,我们已经确定了几位主要发言人:雷·库兹韦尔、史蒂文·平克、泰勒·考恩、坦普尔·格兰丁、彼得·诺维格、罗宾·汉森、彼得·蒂尔、梅兰妮·米切尔、韦纳·文格和卡尔·齐默。我们还与许多其他发言者展开了谈判。与2011年5月开始的奇点峰会筹备工作相比,这是一个很大的进步,使得我们几乎没有时间捕捉某些发言人和发展某些类型的媒体报道。在这样一个早期阶段,除了更大的预算和更多的专业援助,这一重大进展将使奇点峰会2012年成为一个重大飞跃的事件。艾米也在为一个可能的2012年欧洲奇点峰会。
  • 理性组织. 正如我们的战略计划,我们认识到由于关注人工智能和风险研究而产生的品牌混淆金宝博娱乐理性教育,所以我们准备分拆一个独立的理性教育组织,这样机器智能研究所就可以专注于人工智能风险研究。在内部,我们称理性教育组织为“理性组织”。安娜和埃利泽在卢克的帮助下,为未来的理性组织做了大量的工作。我们甚至花了金宝博娱乐更多开发核心理性课程的时间,在不同人群中测试它们的版本,并重复内容。我们预计Org将于今年晚些时候或明年初推出,而且我们预计它不仅提高卫生水线同时也为降低生存风险提供了大量资金。
  • 新网站设计. 我们的媒体总监MichaelAnisimov在Luke的大力帮助下,制定了SI新网站的策略和设计,并与一位设计师合作反复设计了几次。设计师正在为网站编程。
  • 新的捐赠者数据库. 12月,我们的开发总监路易·赫尔姆(Louie Helm)完成了我们新的捐赠者数据库的设置,包括从Paypal、Google Checkout等自动导入数据的自定义代码。这个数据库让我们更好地了解我们的支持者是谁,让我们能够更有效地感谢他们的支持。阿尼西莫夫亲自给数百位过去的捐赠者写了感谢信。
  • 金宝博娱乐研究文章. 卢克和安娜在他们的综述文章“情报爆炸:证据和输入”上取得了持续的进展FHI公司的斯图尔特·阿姆斯特朗在他们的文章“军备竞赛和智能爆炸”中,继续与尼克·博斯特罗姆在他们的文章“人工智能有多难?”?进化论和选择效应。”
  • 其他物品. 卢克写了几篇文章以减少错误:砍掉边缘,为什么要研究概念的认知科学,和所以你想拯救世界. Eliezer在他的新的Bayes定理教程上取得了很多进展,包括(外包的)插图和大量的观众测试。
  • 埃利泽的书. 埃利泽完成了他的第一本书(大部分已经写完)的书的提案,改变主意的科学. 我们已经开始寻找好的代理商来代理这本书。
  • 面对奇点. 卢克继续开发他的在线书籍面对奇点,一个外行的介绍奇点,它的后果,以及我们可以做些什么。他在2011年12月写的章节是:疯狂机器人的反叛,不是为了思考人工智能,用“智力”玩禁忌,隐退中的迷信,我们上面有足够的空间,和别退缩.
  • 增加透明度的努力. 阿尼西莫夫和卢克开始着手设计年度报告的设计和内容。他们还拍摄和制作卢克视频问答1.
  • 最佳慈善事业. 最佳慈善运动(例如。尽我们所能)呈指数增长。卡尔和安娜与该运动的其他成员进行了大量的合作和研究。部分是由于他们的工作,最佳慈善运动对慈善事业的重要性有很大的认识金宝博娱乐作为最佳慈善事业的生存风险降低,这将为未来几年的生存风险降低工作带来大量资金。
  • 与顾问、支持者和潜在研究人员会面金宝博娱乐. 在2011年12月期间,各SI工作人员与数十名顾问、支持者和合作者会面或交谈,讨论如何建立生存风险社区以及其他话题。我们还会见了几位潜在的研究人员,以评估他们的兴趣和能力。金宝博娱乐
  • 谷歌Adwords升级. 几个月来,路易和其他人一直在调整我们从谷歌捐赠给我们的每月1万美元的谷歌广告词中得到的广告。到2011年12月,我们的广告非常成功,我们获得了升级的资格,现在通过googleadwords每月可188betapp以获得4万美元的免费广告。
  • 更好的财务管理. 2011年12月,我们开始培训新的财务主管、长期捐赠者和SI的朋友杰西·利普拉普(Jesse Liptrap)。这意味着组织外有人在密切关注我们的财务状况。我们还开始改进我们的簿记和会计实践,这将使我们能够更好地进行预算、预测和资源管理。
  • 未发表的研究金宝博娱乐. 与大多数研究机构一样,我们金宝博娱乐的大部分研究在1-3年内都不会发表在一篇论文中(如果有的话),即使它告诉了我们对许多事情的看法。2011年12月未发表的研究包括人口伦理、脑-机接口、最佳慈善事业、,技术预测,核灭绝风险,人工智能架构,人类学,决策理论,理性训练,预言人工智能,科学生产力,等等。SI的研究人员对其中的一些研究做出了贡献,包括错误较少的讨论帖子金宝博娱乐带有停顿预言符的UDT模型.
  • 新董事会成员.奎克西联合创始人兼首席执行官,托默卡根,加入SI董事会。托默是我们的好朋友,他给我们的团队带来了丰富的商业和管理经验。
  • 更多. 当然,我们还参与了其他几十个较小的项目。其中包括:更新IntelligenceExplosion.com网站; 为组织建立联系;定期组织SI员工聚餐,增进协调和友谊;在彼得·泰尔的“快进”派对上与捐赠者交谈;建立一个有帮助的志愿者和助理数据库;实施奥拉克在我们的188betapp ; 会见各媒体机构的记者;将旧视频上传到Vimeo和YouTube;修复我们网站上的错误和过时内容;完成我们的2010年990,并把它发送给布兰登莱因哈特,以增加他的财务检查机器智能研究所,准备金宝博娱乐SI研究出版物的新模板金宝博娱乐(由研究助理丹尼尔·杜威提金宝博娱乐供);还有更多。