2013年回顾:外联

||米里策略

这是我个人和定性的第二部分2013年MIRI的自我回顾．

我所说的"外展"是指一般拓展努力，而不是举例。向特定研究人员外展金宝博娱乐，将在关于Miri 2013年的研究活动的帖子中讨论。金宝博娱乐

2013年Outeach

  1. 2013年初，我们决定大幅度减少我们的外联努力，我们做到了。
  2. 然而，我们在2013年了解到，某些形式的“间接”推广对于MIRI的目标来说是相当划算的。1
  3. 因此，我们计划在2014年比2013年在间接推广方面投入更多的努力。

减少我们的外展努力

Miri暂时决定在2012年中期减少其外展努力，当时我们决定进入谈判奇点大学(SU)，以回应他们的收购要约奇点峰会，最终达成协议关闭2012年12月。我们的报告中解释了外联工作的减少2013年战略员额在很大程度上是延续了这个早期的战略决定，该决定一直有条件，即苏收盘成功结束。（我们将继续运行奇点峰会已经苏没有获得它。）

Miri将共同生产未来几年的奇点峰会，但这需要在我们的一部分上努力，未来峰会的调度在苏的手中。苏还尚未安排下一个奇点峰会。

如果2013年没有奇点峰会，我们的直接的今年的推广工作很少。所谓“直接外联努力”，我指的是试图直接让人们接触MIRI的使命集中于过度智能控制问题．这与“间接推广工作”相反，后者的目的不是让人们了解MIRI的任务，而是让人们了解其他可能开始架起桥梁的想法推论的距离这是介于常识和核心的想法激励MIRI的使命——理念如有效的利他主义，应用的合理性，全球灾难性的风险,安全心态， 等等。

我们的直接的外联工作2013年:

  1. 一个新网站这是我们更名为机器智能研究所(Machine Intelligence Research Institute)的必要组成部分，同时金宝博娱乐也增加了对社交媒体的使用。
  2. 一些普通观众在大学和科技公司(斯坦福大学、牛津大学、Facebook、Quixey和Heroku)谈论超级智能控制有效的利他主义峰会．
  3. 我们为我们的社区举办了两场湾区活动:4月份的“重新推出MIRI”活动，以及9月份为James Barrat的新书发布活动我们最后的发明．MIRI的两名员工还发表了对巴拉特的书的评论，在这里和在这里．
  4. 包含以前写的内容的两个新的电子书：面对智力爆炸和汉森和尤多科夫斯基的ai - fom辩论．
  5. 我们还参加了一些活动，并与联系我们的感兴趣的人进行了交谈，从而与许多人就超级智能控制进行了交流。
  6. 各种小文章和采访简短的文章为石英和一个面试为全局科学．

很难衡量这些努力为我们的长期目标带来了多少价值。关于这些努力的一些基本统计数字记录在一个脚注中。2

全面的，我自己的印象关于这些直接研究的价值如下：金宝博娱乐

  1. 新域名（Intelligence.org）和网站似乎显然有价值。我们有限地使用社交媒体也似乎有价值，不是值得的成长我们的社区（因为：太多了推论的距离），但为了让我们现有的社区与Miri的工作进行参与。（对于许多人来说，我们的Facebook更新是与Miri保持联系的最简单方法。）
  2. 我们在有效利他主义峰会(Effective利他主义Summit)上的超级智能控制演讲是值得的，因为与听众之间的推理距离更小。我们也知道，会谈带来了一些捐款。相反，我们还没有收到任何具体的证据表明其他超级智能控制对话为我们的使命创造了价值，而不是保持我们与现有社区的联系。我们没有强烈期望这么快就看到这样的证据，但这仍然是不可忽视的证据的缺乏积极的外联效果。
  3. 这两场湾区活动对于保持我们现有社区的联系是有价值的，但尽管我们每一场都邀请了几位主要记者，但它们未能产生重要的新闻报道。这些活动花费工作人员更多的时间和注意力，而不是金钱。我们的两本书评论我们最后的发明近来才能让我们了解他们是否在读者中造成了有用的行动（超越仅仅在购买书）。
  4. 这两本已有内容的电子书制作成本不高，而且它们让我们的材料更容易获得。它们太近了，对我们来说还没有确切的证据表明它们有积极的影响，但我认为它们是值得的。
  5. 据我所知，我们与人们谈论超级智能控制(而不是有效的利他主义、理性等)的社交活动似乎产生了微不足道的价值。我们对我们的材料进行了几次演示，但我认为推理距离太大了，无法吸引那些对有效的利他主义、应用理性、全球灾难性风险等还不熟悉的新人。

间接外联工作显然更为成功

我们的间接的外联工作2013年也着眼于长期影响:

  1. 尤多科夫斯基写了新的篇章哈利波特和理性方法（HPMoR）和Miri分布了2500 +平川副本，其前17章章节到学校，大学和公司。3.
  2. 卡尔·舒尔曼贡献了研究和职业咨询服务金宝博娱乐有效利他主义的中心(CEA)。
  3. 我们制作了几篇头版文章少错社区，例如一种决策理论F.A.Q.4

我们的帖子对不太错误的积极影响难以衡量，但我们的其他间接外展努力已经比我们的直接外联努力更快地产生了他们的价值的明确证据。

卡尔与CEA的合作对投入资金和注意力产生了可衡量的影响长期慈善事业（包括SuccorTelligence控制问题）。

最后，我们已经有关间接外展价值的一些证据HPMoR：

  • When I observe someone doing something useful to MIRI’s mission (e.g. donation or research) for the first time, I typically ask how they came to be involved, and I trace the story back to their first contact with someone at MIRI, with one of MIRI’s close friends, or to something that MIRI or MIRI’s close friends produced.HPMoR是我现在最常见的“第一次接触”。(第二常见的第一次接触是和序列．)
  • 平装本的HPMoR在第十七章的中间结束，意思是读者开始HPMoR.com在完成平装后，应该直接跳到第17章。根据Google Analytics，人们常常比前10章和新发布的章节以外的任何其他章节大致访问第17章。究竟很难判断，但我最好的猜测是每月100-400人来到HPMOR.com，因为首先阅读了前17章的平装副本。

这些数据符合MIRI对其直接和间接推广工作影响的早期经验。例如，我说过早些时候: Eliezer Yudkowsky花了MIRI的早期几年直接呼吁人们关于超级智能控制研究的重要性。金宝博娱乐一些有帮助的人发现了他的作品，但观众被过滤成了“对未来技术的兴趣”，而不是“能够很好地推理”，因此以利以谢什么时候会做基本参数例如，对于正交命题或收敛工具值，他得到的反应通常类似于自由联想任务的输出。所以以利以谢写序列和HPMoR，主要受众过滤器是“对提高一个人推理的兴趣”。在我们的经验中，这次受众在展示有效的利他主义的情况时更有可能做有用的东西，因为X-illow减少X-illow，为FAI研究等。金宝博娱乐

2014年的经验

今天，我发现自己比我更自信2013年4月MIRI的某些间接延伸比MIRI的直接延伸更有可能为超级智能控制创造价值。基于这个原因，我认为2014年我们将继续缩减直接的外联工作。5同时，我们可能会增加我们的间接推广工作，特别是给以利以谢更多的时间去写HPMoR章节，通过分发更多HPMoR平装书，并通过出版电子书的序列．

例如，我们还将为正在进行受益Miri（和其他组织）的各种外联的组织提供一些咨询和其他支持，这些组织CFAR（理性）和东航（有效的利他主义）。

  1. 我们目前正在收集更多关于我们直接和间接推广工作的影响的信息，但这些数据需要几个月的时间来收集。这些数据可能会推翻本文中的基本结论，但更有可能的是，它们会对这些结论进行微调。↩
  2. 直接外展努力的基本统计数据：（1）我们的新www.gqpatrol.com域名从PageRank 0上升到PageRank 5，一个排名下LessWrong.com自2009年以来，该网站一直被大量链接和活跃。(2)自2013年3月上线以来，www.gqpatrol.com平均每月有28,613名独立访问者。这大约是我们之前的域名singularity.org的两倍，后者在运营期间(2012年7月至2013年2月)平均每月14843名独立访问者。如我们所料，我们的其他“迷你网站”的流量微不足道。在2013年的活跃月份里，以下是我们的迷你网站每月获得的独立访问量:IntelligenceExplosion.com.(2336 / mo),Friendly-AI.com（50 / mo），TheUncertainFuture.com（129 / mo）。（4）截至1月2日，Miri的Facebook页面有〜5000喜欢，已经看到了〜19,500个独特的人，并有“订婚”〜1100独特的人（这意味着他们喜欢，评论，或点击Miri的Facebook Wall Posts）。Miri的Google+页面它的活跃度更低:约有230 +1(类似于Facebook上的“赞”)，17次重新分享。请注意，我们的Facebook点赞数似乎是人为地高。从10月9日到11月9日，MIRI的Facebook页面收到了异常多的赞。这在12月22日又开始了。我们不知道原因。(5)我们的时事通讯订阅数量仅略有增长，从2013年1月的9152名订阅用户增长到12月22日的10024名订阅用户。(6) 2013年4月的新品发布会有65人参加。2013年9月的图书发布会有75人参加。在这两种情况下，大多数与会者都是MIRI的密友。(七)出版后一个月内，卢克的审查的我们最后的发明在KurzweilAI.net网站上获得了大约8,500次的独特浏览量，并负责购买了至少20本书，其中详细描述了MIRI的使命和工作。与此同时,路易的评论的我们最后的发明截至2014年1月2日，奇点中心负责了至少60次购买。(8) 2013年4月- 11月，面对智力爆炸购买了1,379次。自9月以来，汉森和尤多科夫斯基的ai - fom辩论已下载至少1,240次，但这只能从点击intellience.org点击该书的人员下载。（9）有多少人参加了我们的一般观众谈判？通过记忆，我猜在斯坦福，30岁的牛津，20岁的斯坦福，在克里奇·克鲁克·克鲁克队的40岁，50次在有效的利他主义峰会上。这些较小，更具针对性的谈话。我们的过去的谈判在奇点峰会。↩
  3. HPMoR是yudkowsky的私人项目，但Miri赞助了这项工作，即yudkowsky仍然在Miri休息，而他从“直接Miri Work”休息时间来写下并发布新章节HPMoR．↩
  4. MIRI在2013年为“少错”社区发布的实质性、面向外展的头版文章如下:(1)决策理论F.A.Q.;(2）费米估计;（3）从街灯下开始，然后进入阴影中;（4）有效利他主义的四个重点领域;（5）如何衡量任何东西;（6）差点：基于证据的医疗保健．↩
  5. 这一趋势可能至少有两个主要的例外。首先，我们将在2014年初出版一本名为比我们聪明这本书是斯图尔特·阿姆斯特朗(Stuart Armstrong)在2012年底写的。直到最近，我们的工作人员才有时间把它变成电子书。其次，我们可能会发布一些关于即将上映的电影超越，因为这是指导许多眼球到我们的着作的独特机会。此外，我们很可能有助于促进尼克博斯特罗姆的超智书，但这确实称得上是“向研究人员推广”，而不是“一般推广”，因为博斯特罗姆的书是一本学术专金宝博娱乐著。↩