当被问及他们对“人类水平的人工智能”的看法时阿卡“人工普通情报”（AGI）1——可以理解，许多专家的回答是，这些术语还没有被精确定义，很难谈论没有定义的东西。2在这篇文章中，我想简要概述一个不精确但有用的“工作定义”智力我们倾向于在Miri使用。在未来的帖子中，我将写下一些有用的工作定义人工总体智能．
不精确的定义可能是有用的
准确的定义很重要，但我同意伯特兰·罗素的观点
[你不能]从任何精确开始。你必须达到这样的精确性......你走了。
知识的形式化——包括给出精确的定义——通常出现在某一特定领域最初研究的最后阶段，而不是刚开始的时候。金宝博娱乐一个特别具有启发性的例子是数字直到二十世纪公理集理论的发展，才有了现代意义上的正确定义。3.
举一个与人工智能相关的例子，考虑一下“自动驾驶汽车”的概念，这个概念被给出了各种模糊的定义自20世纪30年代以来．将一辆汽车由地下电缆引导有资格吗？怎么样修改了1955年斯伦布克这可能会使用声波检测障碍物，并在必要时自动搞刹车，但如果每次转弯都被预编程，只能引导“独立”？这是否被视为“自行车”？
那"VaMoRs“在20世纪80年代，可以避免使用计算机视觉障碍和转向转向的转向，但没有足够先进的前往公共道路准备好？1995年怎么样？纳瓦布这是一辆横穿美国的全自动汽车，98.2%的行程是全自动的，或者是完成132英里越野的机器人汽车2005年DARPA大挑战，仅与路线的GPS坐标一起提供？赢得胜利的汽车呢？2007年DARPA大挑战，在遵守所有交通法律并避免与其他汽车碰撞的同时完成了城市比赛？做谷歌的无人驾驶汽车它已经完成了超过50万英里的自动驾驶里程，在计算机控制下没有发生过一起事故，但仍在艰难的合并和积雪覆盖的道路上苦苦挣扎。4.
我们对“自动驾驶汽车”缺乏一个精确的定义，但这似乎并没有阻碍自动驾驶汽车的发展。5.我很高兴我们没有等到有了自动驾驶汽车这个词的精确定义后才开始认真地讨论它。
同样，我认为我们不应该等到AGI的精确定义出来之后再认真讨论这个话题。另一方面，如果这个术语携带了这些信息，它就毫无用处了没有信息。因此，让我们为AGI制定一个规定性的、可操作的定义。我们将从为的操作定义开始智力．
“智力”的定义
莱格与哈特(2007)发现智力的定义趋向于“智力衡量的是个体在广泛环境中实现目标的能力”。让我们把这称为智能的“优化能力”概念，因为它衡量的是一个主体根据自己的偏好优化世界的能力。
我认为这是对问题的富有成效的方法，因为它识别出外部可衡量的智能性能而不是细节如何可能会实现这种性能（例如，通过意识，蛮力计算，“复杂性”或其他东西）。而且，它通常是性能我们最关心的是:我们最关心的是人工智能是否能够出色地取代人类工人，或者它是否能够出色地在没有人类帮助的情况下提高自身能力，而不是它是否具有某些特定的内部特征。6.
此外，优化能力的概念允许我们比较不同类型的代理的智能。阿不思·(1991.)说,“一个有用的情报的定义……应该包括生物和机器化身,这些应该跨越一个知识范围从昆虫的爱因斯坦,从恒温器的最复杂的计算机系统能够建立。”金宝博官方
不过我想再加一条考虑。如果两个主体根据自己的偏好优化世界的能力大致相同，但第二个主体需要多得多的资源来完成这一工作，那该怎么办?这些代理具有相同的优化能力，但第一个代理似乎优化得更智能。因此，我们或许可以用“智能”来表示“用所使用的资源划分的优化能力”——尤多科夫斯基如是说高效的跨域优化．7.
其他定义8.也有他们的优点。但在MIRI，我们发现“高效跨域优化”的概念非常有用，它可以作为我们对智能的工作定义(仍然不精确!)。
在以后的文章中(编辑：在这里），我将讨论一些有用的工作定义人工总体智能．
- 我可以交替使用HLAI和AGI，但最近我几乎只使用AGI，因为我了解到AI社区中的许多人对任何提及“人类级”AI都有负面反应，但并不反对狭义智能与一般智能的概念。参见Ben Goertzel的评论在这里．↩
- 当被问及他认为HLAI将于何时成立时，帕特·海斯(Pat Hayes) (HLAI的前任总裁)说Aaai.）回答说“我不认为这个问题是可以回答的，因为我不认为‘人类水平的智力’这个(普遍的)概念是有意义的。”被问到同样的问题，人工智能科学家威廉•尤瑟回答说：“你问了很多关于'人类级别的AGI'。我认为这个术语很明确，“虽然AI科学家艾伦·邦迪回答说“我不认为‘人类水平的机器智能’的概念已经形成。”↩
- 索耶(1943)他举了另一个例子:“数学家们最初使用√-1这个符号，根本不知道它是什么意思，因为它缩短了工作量，得到了正确的结果。”人们很自然地想知道为什么会这样以及√-1的真正含义。两百年后，他们成功了。”丹尼特(2013)发表相关评论：“先生定义你的条款！不,我不会。那还为时过早……我的(方法)是一点一点地吃而不是试图从一开始就消化(消化)整个问题肘部的房间我把我的方法比作雕刻家把大理石的形状打磨出来的方法，小心谨慎地接近最终的表面，逐次逼近。”↩
- 对于自动驾驶汽车，研究人员确实使用了许多精确的外金宝博娱乐部性能指标(如事出率、速度、无人辅助运行的时间、被卡的频率)来评估进展，以及内部性能指标(搜索速度、有限损失保证等)。金宝博娱乐研究人员可以看到，这些进展的方向是正确的，尽管它们的长期相对贡献尚不清楚。对于人工智能来说也是如此。人工智金宝博娱乐能研究人员使用许多精确的外部和内部绩效指标来评估进展，但很难知道这些进步对AGI最终目标的相对贡献。↩
- 哎呀，我们有千年的色情背景仍然还没能准确定义它。百科全书中关于“色情”的条目经常简单的Quote justice potter stewart：“我今天不会进一步尝试定义我理解的材料类型[色情] ......但是当我看到它时我知道它。”↩
- 我们可能会关心机器是否有意识，除了智能之外，我们还有一个方便的术语：意识．特别是，我们可能会关心机器意识，因为ai的慢，ploddent发明可以涉及成像和破坏数百万的部分有意识的接近ais，其接通，持续一段时间，然后关闭 - 全部关闭无法向我们发出信号，他们正在遭受痛苦。如果我们仍然不清楚意识的性质，这是特别可能的几十年的意识，因此没有原则方式（例如，通过非双杠谓词)来创造智能机器知道没有意识（因此无法痛苦）。第一个让这一点明确的人之一就是Metzinger (2003)，p。621：“如果有人出现并说'嘿，我们想要转基地工程师智障人类婴儿的人！For reasons of scientific progress we need infants with certain cognitive and emotional deficits in order to study their postnatal psychological development—we urgently need some funding for this important and innovative kind of research!’ You would certainly think this was not only an absurd and appalling but also a dangerous idea. It would hopefully not pass any ethics committee in the democratic world. However, what today’s ethics committees don’t see is how the first machines satisfying a minimally sufficient set of constraints for conscious experience could be just like such mentally retarded infants. They would suffer from all kinds of functional and representational deficits too. But they would now also subjectively experience those deficits. In addition, they would have no political lobby—no representatives in any ethics committee.” Metzinger repeats the point inMetzinger（2010），从第194页开始。↩
- 不可否认，这仍然含糊不清。精度一步是提出智能定义，作为优化功率，以便在某些规范分布环境中的某些规范分布，用于资源使用的罚款。规范偏好和规范环境可以加权与我们担忧相关的偏好和环境：我们更多地关心AIS是否可以进行科学，而不是他们是否可以画出抽象艺术，我们关心他们是否可以在太阳系中实现其目标金宝博官方而不是他们是否可以在黑洞内实现目标。还要看看Goertzel写到(2010)“高效的务实智力”。↩
- 希巴德(2011);《美腿与维芙》(2011);王(2008);Schaul等人。（2011）;Dowe＆Hernandez-orallo（2012）;Goertzel写到(2010);Adams等人。（2011）．↩
你喜欢这个帖子吗?你可以享受我们的另一个分析的帖子,包括:
