新论文:《人工智能中的探索性工程》

||论文

勘探工程Luke Muehlhauser和Bill Hibbard有一篇新论文(PDF)刊登于2014年9月号ACM通信它是世界上阅读量最大的同行评议计算机科学出版物。题目是"人工智能探索工程”。

摘录:

我们经常看到新的人工智能(AI)能力的例子……毫无疑问,这种自动化将产生巨大的经济价值,但我们能够做到信任这些先进的自动系统有这么大的能力?金宝博官方

如今,人工智能安全工程主要是正式方法和测试的结合。这些方法虽然强大,但缺乏远见:它们只能应用于现存的特定系统。金宝博官方我们描述了第三种互补的方法,目的是根据未来AI智能体的数学结构(例如,强化学习)来预测(潜在的危险)属性和行为……我们称这种方法为“AI中的探索性工程”。

...

在这个观点中,我们关注的理论人工智能模型的灵感来自于Marcus Hutter的AIXI,一个最优代理模型,最大限度地提高环境奖励信号…

...

自主智能机器有可能对我们的文明产生重大影响。探索性工程让我们能够通过分析agent设计的数学形式,对这些影响有一定的预见能力。探索性工程还使我们能够确定研究方向——例如杜威的价值学习代理的研究——这可能对预测和避免不必要的人工智能行为很重要。金宝博娱乐随着机器智能在我们的世界中发挥越来越大的作用,这种远见将变得越来越有价值。