捐赠者故事#1:注意推论距离

||客人的帖子

2013年是迄今为止MIRI最成功的筹款年(详情稍后),所以现在我们正在和我们的捐赠者讨论:“好吧,什么完全我们正在这样做吗?正确的?”

以下是一名捐赠者的故事,匿名并经许可发表:

我捐款的决定很大程度上取决于M188betappIRI与LessWrong.我确实研究了MIRI本身,仔细阅读了博客和论文,并做了一些事实核查。但这在很大程度上是一种理性检查,因为我在LessWrong上的互动说服了我去捐赠。188betapp

起初,我并没有被说服去捐赠,因为我确信FAI是一个比我之前担心的更紧迫的问题。188betapp一旦我相信了这一点,我是否要为FAI研究捐款的问题就不再是问题了,而是我应该把努力的重点放在哪里。金宝博娱乐188betapp

我选择捐赠给MIRI是188betapp在我意识到这一点之后

  1. 很少有人意识到uFAI带来的问题。
  2. 在这些人当中,许多人在未能理解这个问题之后就把它忽略了。

这听起来可能有些傲慢。让我来解释一下:

也许矛盾的是,让我相信MIRI的最大因素之一是霍尔顿Karnofsky的批判的组织。在我看来,霍尔顿的人工智能工具建议和他的其他一些反对意见显然是愚蠢的。之后,我读了路加福音以利以谢他拒绝这些观点的理由与我拒绝它们的理由相似。这让我相信无论卢克和以利以谢在哪个组织工作都是非常重要的。

这种情况在大的讨论和小的评论中多次出现。我发现有很多人反对将uFAI视为一个问题,而且他们中的绝大多数人从根本上误解了这种担忧。

我并不认为霍顿·卡诺夫斯基或其他持不同政见者愚蠢,或被误导。我特别尊重卡诺夫斯基:他非常聪明,他做的工作令人难以置信。我当然不是说我比他更聪明,也不是说我比任何质疑MIRI使命的人更聪明。

相反,我有一段为粗俗的想法争论的历史。我经常发现自己在一个推论的差距.我一直坚信聪明人会从根本上误解最重要的问题。我经常尝试磨练一个奇怪的想法,但在我们得到真正的问题之前,只有四个步骤让讨论伙伴陷入推理的鸿沟。

许多关于固定资产投资(主要是Karnofsky的批评)的讨论使我相信固定资产投资也是同样的问题。在这种情况下,人们陷入争论这个问题是否真的是个问题,很难找到真正在寻找解决方案的人,而不是辩论解决方案是否必要。

这是我信任MIRI的主要原因:这些讨论让我确信,我应该期待一个适当关注的专家的缺乏。

我没想到会有MIRI之外的组织存在FHI以及其他几个在同一圈子里的人),我可以相信他们能解决我所看到的问题。有那么多聪明的人在推理上出现了失误,这让我对其他有类似使命的组织感到谨慎:即使他们的目标听起来很好,也很难让我相信他们的领导能够避免常见的陷阱。

相比之下,路加,以利以谢和尼克·博斯特罗姆通过许多博客文章、讨论和论文一次又一次地展示他们的能力。他们慢慢地建立了我现在对MIRI和FHI的信任。

我知道这听起来仍然很傲慢,但我也明白这一点。我是通过以利以谢的作品了解到这些问题的,因此我不得不期待对以利以谢的观点有偏见。我无视聪明人的许多观点,这一事实引起了一些警觉。这个领域充满误解的事实意味着我应该预见到我自己的误解。

我意识到了这一切,我花了很长时间试图解释这些观点。这个决定不是轻易做出的:我花了整整四个月的时间进行反思、研究和思考,才有足够的信心向MIRI捐款。金宝博娱乐188betapp在这段时间里,我发现了对相反观点的更多尊重,但我的结论没有改变。

我从另一端出来,确信uFAI是一个紧迫的问题,FAI研究很重要,这个领域充满了地雷。金宝博娱乐MIRI仍然是少数几个让我相信他们有机会成功跨越这个雷区的组织之一。

当然,这些结论在当时我的头脑中并不是很清晰。总是有更多的思考要做,更多的反思,更多的事实要检查之前,把成堆的钱。与此同时,生活仍在继续:工作和休闲优先于决定我的钱应该花在哪里。这是夏天匹配的挑战这终于迫使我伸出手来,把我从沉思中摇了出来,给我提供了一个方便的借口,开始真正地打了起来188betapp