我们2014年中期的战略计划

||Miri战略

总结

自米里以来的事件2013年4月战略计划提高了我的信心，我们“朝着正确的方向走向”。在2014年剩下的时间里，我们将继续：

  • 减少我们的公开展示努力，将大部分工作留给FHI在牛津大学,CSER.在剑桥，FLI.在麻省理工学院,斯图尔特罗素在UC Berkeley和其他人（例如詹姆斯巴拉特）。
  • 完成一些待待的“战略研究”项目，然后减少我们在这方面的努力，再次金宝博娱乐将大部分工作留给FHI，加上CSER和FLI，如果他们雇用研究人员，以及其他一些。
  • 增加我们对友好AI（FAI）技术研究议程的投资。金宝博娱乐

这原因为了继续沿着这条路径仍然很大程度上是相同的，但我现在对它有更多的信心而不是之前。这是因为，自2013年4月以来：

  • 我们生产了很多友好的人工智能研究进展金宝博娱乐在许多不同的前锋上，没有远程如果我们有更多的研究人员，我们已经耗尽了可以提出的进展，证明FAI技术议程是高度易行的。金宝博娱乐
  • 通过利用他们的大学附属机构和令人印象深刻的咨询委员会，FHI，CSER和FLI已经取得了大量的公众外展成功。
  • 我们听说，由于这种推广的成功，也由于斯图尔特·罗素(Stuart Russell)在人工智能会议上与研究人员的讨论，人工智能研究人员开始问，“好吧，这看起来很重要，但技术研究议程是什么?”金宝博娱乐我和我的学生能做什么呢做关于它？”基本上，他们希望看到FAI技术议程，Miri正在制定技术议程（见下文）。

简而言之，我认为我们测试并验证了Miri的新战略重点，现在是时间缩放了．因此,我们最高的目标未来6-12个月是：

  1. 创造更多友好的AI研究。金宝博娱乐
  2. 招募更多友好的人工智能研究人员。金宝博娱乐
  3. 筹集大量资金以支持这些活动。

我们实现这些高级目标的低级战术可能会在尝试和学习时快速变化，但我会绘制我们的当前的下面是战术计划。

1.更友好的AI研究金宝博娱乐

我们的金宝博娱乐 生产了太多的FAI研究进展，他们让我们招募我们金宝博娱乐的两个新的fai研究人员金宝博娱乐但我们发现，对于“新来者”(那些没有长期跟踪研究的人)来说，在我们的研讨会上贡献FAI研究是很困难的。金宝博娱乐新手需要更好的教程和更多的时间来思考研究问题，然后才能在前沿领域做出更多贡献(见下一节)。金宝博娱乐因此，我们在2014年致力于新研究进展的努力将集中在:金宝博娱乐

  • 组织研究研讨会主要或仅金宝博娱乐由“退伍军人”（长期以来一直在研究的人），如我们的2014年5月研讨会．
  • 邀请个别研究人员一次访问MIRI几天，与金宝博娱乐我们一起研究他们已经熟悉的非常具体的研究问题。
  • 给我们的员工FAI研究人员时间以自己和彼此金宝博娱乐为自己的理论进步。

2.招聘

在这里，我谈论“招募”而不是“创建一个领域”，但实际上，下面的大多数计划活动同时完成两端，因为他们找到了 - 并帮助激活 - 新的FAI研究人员。金宝博娱乐尽管如此，在招聘和帮助创造一个领域之间存在陡峭的权衡，我们专注于招聘。FAI 金宝博娱乐Research最好是作为一个全日制职业，最小的分心，现在Miri是唯一的地方提供这样的工作．

我们计划尝试许多不同的东西来看看招聘最有助于什么：

  • 我们计划发布FAI技术议程的概述。这将使潜在FAI研究者更容易参与进来。金宝博娱乐
  • 我们计划准备，测试，改进，然后在许多不同的城市中提供（在许多不同的城市）是FAI技术议程不同部分的一系列教程。除了提供教程讲座之外，我们还可以组织一天或为期两天的研讨会，该研讨会仅用于教程和问答，而不是旨在进行新的研究进展。金宝博娱乐
  • 我们计划发布yudkowsky的书版本序列不太错误部分原因是我们注意到那些为FAI研究进展做出了最大贡献的人已经读到 - 并受到这些着作的影响，并且当他们正在进行FAI Research时，这似乎有助于金宝博娱乐帮助。
  • 我们将继续资助SPARC.，其主要组织者是经常参加MIRI工作坊的人(Paul Christiano)。
  • 我们将继续通过我们的米西克计划．
  • 我们可以为某些类型的研究进展提供广泛广告的现金奖项，例如，金宝博娱乐提交给A的获胜决策算法强大的程序均衡锦标赛，或某种解决方案Löbian障碍．
  • 我们可以在诸如的场地宣传AMS通知（广泛阅读数学家）和ACM的通信（通过计算机科学家们广泛阅读）。
  • 我们正在与UC Berkeley的发展工作人员讨论，关于各种潜在的Miri-Berkeley合作，可以使研究人员更容易与Miri从一个领先的学术机构合作。金宝博娱乐

我们也做了我们的对FAI研究人员的工作机会金宝博娱乐更具竞争力。

3.筹款

为了支持我们越来越友好的AI研究计划，我们已经设定了“拉伸”目标金宝博娱乐2014年筹集了170万美元．

我们达到这个目标，我们参加SV给出5月6日并提高了〜110,000美元，也赢得了61,000美元的匹配和奖项，否则不会捐赠给Miri。188betapp我们感谢每个捐赠的人！188betapp

和往常一样，我们也会分别从7月和12月开始进行夏季和冬季的筹款活动。

This year we’ll explore the possibility of corporate sponsorships, but we are not optimistic about that strategy, because MIRI’s work has little near-term commercial relevance, and we’ve been counseled that corporate sponsors often require more in return from a sponsored organization than the funds are worth.

我们对改善我们的捐赠者管理和捐赠者前景的潜在回报更加乐观，我们已经开始这样做了，我们正在寻找一位全职发展主任．

在2014年，捐赠者的寻找不太可能带来新的捐赠者，但这对未来的筹款年很重要。我们最近从私人和公共资助机构寻找和申请资助的努力也是如此。我们不期望在2014年获得太多的资助，但我们希望了解未来几年我们还需要做些什么的细节，这样我们就能在未来获得大量的资助，从而使我们的资助来源多样化。