新论文:“认知增强的胚胎选择”

||论文

IES第一页在他担任MIRI研究员期间,Carl Shulman金宝博娱乐与尼克·博斯特罗姆)一份现在可以获得预印本的论文,标题为“认知增强的胚胎选择:好奇心还是游戏规则改变者?

文摘:

人力资本是个人和国家成果的关键决定因素,也是科学进步的主要投入。有人认为,基因组学的进步将使提高人类智力能力成为可能。一种方法是通过胚胎选择在体外受精(IVF)。在这篇文章中,我们分析了胚胎选择认知增强的可行性、时间尺度和可能的社会影响。我们发现,胚胎选择本身可能对未来50年产生重大影响,但可能不是剧烈的影响,尽管巨大的影响可能会在数代中积累。然而,有一种互补的技术,即干细胞衍生配子,已经取得了迅速的进展,它可以放大胚胎选择的影响,如果成功应用于人类,将使巨大的变化。

最后一句提到了“迭代胚胎选择”(IES),这是MIRI首次描述的未来技术2009年.该技术对友好人工智能(FAI)的发展具有重要的战略意义,因为它可能是唯一的智能放大(IA)技术business events)对人类智能产生足够大的影响,从而大大改变我们在AGI之前获得FAI的概率(如果AGI是的话)这是本世纪发展起来的

不幸的是,目前还不清楚IES的到来是否会积极或消极地改变我们的FAI机会。一方面,实质上更聪明的人类可能更聪明,更有可能正确把握FAI。另一方面,IES可能加速AGI相对于FAI的速度,因为AGI比FAI更易于并行化。(有关更多细节和指向两个方向的更多参数,请参见智能放大和友好的AI.)