Stuart Armstrong最近的人工智能控制头脑风暴

||新闻

Oxford_Stuart-ArmstrongMIRI最近资助了牛津大学研究员斯图尔特·阿姆斯特朗(Stua金宝博娱乐rt Armstrong),让他独自静思,为人工智能控制寻找新的思路。这次集思广益产生了16个新的控制理念,这些理念的实用性和完善程度各不相同。在过去的一个月里,他描述了每一个新想法,并将这些描述从他的索引帖子中链接起来:全新的AI控制理念

他还为每个AI控制理念命名,然后画了一张图来表示(非常粗略地)新理念之间的联系。在下图中,箭头Y→X可以表示“X依赖于Y”、“Y对X有用”、“X在这个问题上补充了Y”或“Y启发了X”。下面划线的观点是Stuart目前认为最重要或发展的观点。

全新的AI控制理念

在此之前,斯图尔特开发了人工智能控制理念效用无差异这在MIRI的论文中起到了作用可订正(Stuart是作者之一)。他还开发了人为决策理论还有一些关于减少影响人工智能甲骨文人工智能.他为确保先进人工智能的良好结果的战略和预测挑战做出了贡献,例如在奔向悬崖我们如何预测人工智能.MIRI之前和他签了合同,让他写一本短篇书,向大众介绍超级智能控制的挑战,比我们聪明