Paul Rosenbloom的认知架构

路加福音Muehlhauser从1983年到1998年，你是可能是运行时间最长的人工认知架构的联合pi一般情报,飙升的项目该项目仍在开发中。你目前的一个项目是一个新的认知架构叫做σ它“试图构建一个功能优雅、大统一的认知架构/系统——基于图形模型和分段连续函数——以支持虚拟人类和智能代理/机器人。”金宝博官方你从萨先生身上学到了什么?他们是如何指导你研究西格玛的?

保罗·罗森这是一个有趣而复杂的问题，在过去的几年里，我断断续续地思考这个问题，因为西格玛同时受到Soar公司的优点和缺点的激励。我目前的感觉是，从Soar中学到的五个教训对Sigma产生了重大影响。

一是寻找统一的认知架构的重要性。不孤立地关注个人能力有助于避免在通往一般智力的道路上的局部最优，并为只有在考虑能力之间的相互作用时才能获得的深刻科学成果开辟了道路。在西格玛(Sigma)中，这一想法已经从认知能力的统一(这是翱翔的主要关注点)扩展到人类(-水平)智能行为(包括感知、运动、情感等)所需的所有能力的统一。这就是所谓的大统一．

第二个是统一方法对建筑的重要性——至少在《Soar》的第8版中是这样展示的——结合了Allen Newell的“倾听建筑”的劝诫。Soar的许多最有趣的结果来自于探索如何将体系结构中已经存在的少数机制结合起来产生新的功能，而不需要专门为它们添加新的模块。这在西格玛中被重新改写为功能雅致，或者产生类似于“认知牛顿定律”的东西。这并不一定意味着只允许体系结构中每种功能的一种形式，正如严格的一致性所暗示的那样，但它确实建议搜索一小组非常通用的机制，通过它们的交互，智能行为的多样性会出现。它还强调根据现有的体系结构机制解构新功能，而不是添加新的体系结构机制，并且在需要扩展时，更倾向于向体系结构添加微变化，而不是全新的模块。

第三点是拥有一个运行足够快的系统来提供来自复杂实验的体系结构反馈的重要性。金宝博官方这反映在Sigma的目标足够的效率．

第四是三个嵌套控制循环(反应性、审慎性和反射性)的功能优雅;随着连续的循环，灵活性增加(速度下降);其中，前面的每个控制循环都是下一个控制循环的内环;其中有一种机制，比如分块，可以将在后期/外部/较慢循环中生成的结果编译成在早期/内部/较快循环中更直接访问的知识。这个控制结构是Soar最大的概念性片段，已经直接传递给了Sigma，目前正在进行的工作是如何为Sigma恰当地归纳分块。

第五是早期统一版本的飙升并没有为完整的认知统一提供足够的建筑能力，并且在考虑大统一时甚至进一步缩短。与SOAR版本9的情况一样，这一课程导致了更一般的统一机制，而不是引领SOAR原始均匀性假设的SIGMA远离SOAR的发展远离SOAR的原始均匀性假设。并且，特别是在Sigma中的图形模型的中心性和分段 - 线性函数。图形模型跨符号，概率和信号处理的技术算法的屈服状态，虽然分段 - 线性函数提供单个表示，其可以根据需要尽可能地近似任意连续功能，并且被适当地限制概率和符号功能。鉴于这种组合的目标是创建一种新的架构，可以提供现有最先进的架构中发现的智能行为的多样性，例如SOAR和ACT-R，但以更简单和更为理论的方式，同时还以功能优雅的方式延伸到宏大统一。

卢基: Sigma在以agi为目标的认知架构的空间中处于什么位置?和它有什么相似和不同之处，AIXI，丽达，双等等?为什么你认为Sigma可能比这些选择为AGI提供更有前途的道路?

保罗译文:西格玛可以被看作是将三十年来在认知架构和图形模型两方面的工作中学到的东西合并在一起的一种尝试(尽管清楚地反映了个人对所学到的东西的观点)。我相信，正是这种组合为AGI提供了一条特别有前途的道路。尽管多年来已经开发了各种认知架构，但是没有一个现有的架构能够充分利用图形模型的潜力，将(广泛的)通用性与(最先进的)效率结合起来。

在这一点上，我不打算详细地比较特定的体系结构，但是与您提到的三个体系结构进行比较的一个特别说明性的方面是功能优雅。AIXI是一个极端，它试图通过非常少的基本机制来实现。LIDA是另一个极端，拥有大量不同的机制。我对DUAL不是很熟悉，但是从我所看到的来看，它比LIDA更接近AIXI，虽然没有AIXI那么极端。在这个维度上，西格玛最接近DUAL，接近频谱的AIXI末端，但在足够的效率服务中停止。

关于你的第一个问题，关于以agi为目标的架构的更广阔的空间，还有一些附加的维度，Sigma也可以位于其中，尽管我在这里只明确地提到其中的几个。首先，在短期内，Sigma更直接地针对功能标准，而不是有关人类认知建模的标准。然而，通过从其他体系结构转移过来的经验教训，这种建模标准有一个间接的影响，并且最终的目的是在将来更直接地考虑它们。其次，Sigma在体系结构的形式化/数学化程度上处于中间位置，具有明显的非正式方面——例如嵌套的控制循环——与从图形模型继承的正式方面相结合。第三和第四个维度是高层次与低层次认知和中央与外围认知的相关维度。西格玛是直接针对这两个维度的全部跨度，即使有一个更高水平和中心的起点。

卢基:当与AI科学家讨论AGI时，我经常听到这样的回答:“AGI没有明确定义，所以谈论它是无用的。”这对你来说是个大问题吗?哪一个AGI的操作定义你喜欢用在自己身上吗?

保罗我倾向于在这个总体问题上采取比较宽松的立场。如今，许多人工智能科学家对一般智能概念的模糊性感到不安，因此他们将自己局限于那些可以明确定义的问题，而这些问题的进展可以用某种直接的、最好是可量化的方式来衡量。一些最初的推动这个来自资助者,但是有一种强烈的内在吸引力的方法,因为它很容易说你在做什么,来确定你是否取得进展,即使你正在取得进展的指标以及不完全测量你最初要实现的。这也让你更容易为你所做的科学辩护。

然而，在过去的几年里，除了致力于Sigma的研究之外，我还花了相当多的时间思考科学的本质，以及计算更广泛地适用于科学领域的问题。其结果是对做科学意味着什么有一个非常简单的概念，那就是(至少平均而言)随着时间的推移增加我们的理解。(更多关于这一点，以及计算作为科学的概念——事实上，作为一个伟大的科学领域是等同的物理，生命和社会科学——可以在计算:第四大科学领域，MIT Press，2012.）在这个定义中有明显的房间​​，用于精确测量关于明确的问题的工作，也可以在更明确的界定问题上进行更多的非正式工作。坦率地说，我经常从新颖的猜想中了解更多信息，让我在完全新的方向思考，即使在证据尚未得到很好的支持，而不是仔细评估的小想法。这是我最近参加AGI社区的原因之一。即使方法论似乎似乎相当粗略，我不断受到新想法的挑战，让我思考超越我目前所在的范围。

自从上世纪70年代我进入人工智能领域以来，我的主要目标就是实现一般人类水平的智能。多年来，有各种各样的尝试来定义AGI或人类水平的智能，但没有一个是非常令人满意的。当我在人工智能课程上教授导论时，我粗略地将智能定义为“使系统具有通用性、知识性、理性、自治和协作性的常见潜在能力”，而认知架构则是支持自然和/或人工系统的固定结构。金宝博官方在过去三、四十年的大部分时间里，我试图理解并构建的正是这种固定的结构，Soar和Sigma代表了两个最大的努力——跨越了我大约20年的努力——还有更早的工作，包括参与一个可指导生产系统的项目和开发基于激活的XAPS系列生产系统架构。金宝博官方

对于大统一、功能优雅和足够的效率的渴望被发展成一种评估和解释我认为是在像Sigma这样的架构上取得进展的东西的方法。增加可以产生的智能行为的范围，增加这种行为产生的简单性和理论上的优雅性，并使这些行为在(人类水平)实时运行——也就是说，在每个认知周期大约50毫秒——是驱动我的研究的问题，金宝博娱乐以及我个人如何评估自己是否取得了进步。不幸的是，这些都不是传统AI会议上普遍接受的标准，所以我没有在这样的场合成功发表关于Sigma的文章。但也有其他一些非传统的场所，如AGI和越来越多的其他场所——例如，Christian Lebiere和我共同主持的AAAI 2013秋季综合认知研讨会——在标准上更加开放，因此更容易接受这样的工作。资助者也有类似的问题，例如，这些标准并不适合传统的NSF模型，但也有其他资助者对这类工作的潜力感到兴奋。

卢基：斯图亚特·罗素在IJCAI-13关于“如果我们成功(构建AGI)会怎样?”

许多人工智能科学家似乎认为AGI仅仅是科学成就，这是相当令人难以置信的:“从长远来看，人工智能是唯一的科学，”正如伍迪Bledsoe把它。

其他人则认真考虑AGI的潜在好处，这也是巨大的:想象有1000个比爱因斯坦更聪明的AGI正在治疗癌症。

还有一些人(包括美里,我认为罗素)非常担心AGI的社会后果。现在，人类掌控着未来，不是因为我们是最快或最强壮的，而是因为我们是最聪明的。所以，如果我们创造出比我们更聪明的机器，那将是它们而不是我们主宰未来，它们可能不会把未来引向我们想要的方向。

您对AGI的潜在社会后果有什么看法?

保罗：我对这种类型的问题感到不那么舒服，因为我没有任何特定的专业知识，可以在回答它时，但是因为我想到了一些关于它，这是我的猜测。

计算机应用，包括传统的人工智能系统，已经产生了巨大的社会影响。金宝博官方他们提供工具，使人们更有效率，提供信息和娱乐，并与他人联系。它们之所以无处不在，是因为它们比其他替代品更快、更精确、更可靠、更全面、更便宜。在这个过程中，它们改变了我们作为个人和社会的地位，并经常在人类本应被雇佣的情况下消除工作机会。它们也产生了新的工作类型，但是失去的工作与获得的工作之间的平衡，无论是在数量上还是类型上，似乎都不是特别稳定或可预测的。在不久的将来，如果有关AGI的工作产生的社会后果与这些有质的不同，我会感到惊讶。

但是，如果/当AGI产生了人类水平或超人一般的智力，会发生什么呢?一个有趣的次级问题是，超人一般的智力是否可能存在。我们已经有了令人信服的证据，证明超人专用的人工智能是可能的，但在一般智力方面，人类是否在某种程度上低于最佳水平，以至于电脑可能在很大程度上超过我们?奇点的概念主要依赖于这样一个假设，即这种空间确实存在，但如果你接受认知心理学中的理性分析原则，人们可能已经(在一定范围内)在他们所生活的总体环境中得到了最佳的进化。尽管如此，即使超人一般的智能是不可能的，AGI仍然可以令人信服地使无限供应的系统像最聪明的人类一样聪明;金宝博官方或者，它可能只是让人类级别的人工通用智能与更专业、但仍是超人的计算/人工智能工具紧密结合，这本身可能产生显著优势。

在这样一个世界里，人类还会继续扮演经济角色吗?或者我们要么被边缘化，要么需要通过基因操纵和/或与计算系统(AGI或AI或其他)杂交来扩展我们自己?金宝博官方我的猜测是，我们要么需要拓展自己，要么会被边缘化。在串联,不仅仅是经济领域——我们还需要开发一个更广泛的概念的情报和agenthood适当适应更大的多样性我们可能会看到,权利和责任应该自动积累和不同层次或方面。换句话说，我们需要一个更广泛、更基本的世代论伦理，而不是简单地基于一些相当明显的区别，如成人与儿童之间、人与动物之间、自然系统与人工系统之间。金宝博官方机器人定律的概念,和它的同类,假设人工总体智能是保存在征服,但在某种程度上这已经打破道德,务实,可能,即使怀疑的前提是假定有一种方法可以保证他们可以永远保持在这种状态。如果他们在智力和其他方面达到或超过我们，那么维持一种新形式的奴役会降低他们和我们的身份，甚至可能为最终逆转这段关系提供理由。我看不到真正的长期选择，只能定义并占据道德高地，即使它开启了一种可能性，即我们最终会以某种本质的方式被取代——或从纯粹的存在中混合出来。

卢基碰巧，我看了你的书在计算大约4个月前。我发现自己直觉上同意你的主要论点:

这本书是关于计算科学,一个广泛的计算,可以认为现在是类比物理科学,生命科学,社会科学,虽然最终将提出的一种观点是,这不仅仅是一个类比,计算应被视为平等的这三个现有的伟大的科学领域,因此第四大科学领域．

与其让你分享这本书的要点，不如让我这样问:如果你的书在未来15年对受过教育的人产生了重大影响，相比之下，它的影响甚微，世界看起来会有什么不同?

保罗我写这本书的目的更多的是要影响人们对计算机的看法——帮助他们理解计算机是一个丰富的、结构良好的、高度跨学科的科学(和工程)领域——以及计算机的未来在哪里，而不是创造一个本质上不同的世界。我希望学术计算组织有一天能更好地组织起来，以反映、促进和利用这一点。我也希望更多的学生能够因为计算机的全部潜力而兴奋地进入计算机行业，而不是仅仅专注于编程这一职业。我还希望资助者能够更好地理解在计算机领域进行基础研究意味着什么，这并不完全符合来自“自然”科学的更传统的模型。金宝博娱乐

卢基:谢谢你,保罗!