Ken Hayworth对大脑仿真前景

||谈话

肯尼斯·海华斯画像Kenneth Hayworth是总统脑保存基础(BPF),该组织通过检查它们在纳米级以纳米级保持脑的神经电路的方式令人疑惑地令人疑惑地评估低密声和其他潜在的人类保存技术。Hayworth也是Hhmi的Janelia农场研究校园的高级科学家,目前正在研究扩展脑组织的聚焦离子束扫描电子显微镜(Fib金宝博娱乐sem)的方法,以包括比目前可能的更大的体积。Hayworth是ATUM-SEM的共同发明人,用于纳米级的神经电路的高通量卷成像,他设计和建造了几台自动化机以实现此过程。Hayworth在来自南加州大学的神经科学中获得了博士学位研究人类视觉系统如何编码物体之间的空间关系。金宝博娱乐金宝博官方Hayworth是一个声音倡导者的脑保存和思想上传,通过BPF的脑保存奖,他已经挑战了科学家和医学研究人员,开发了一种可靠的科学验证的外科手术,可以在整个人类脑中展示长期超微结构保存。金宝博娱乐一旦赢,Hayworth倡导在医院的这种外科手术的广泛实施。目前有几位研究实金宝博娱乐验室试图赢得此奖项。

卢克·穆罕沃斯:你自己思想的一个有趣的特征(海沃思2012)关于全脑模拟(WBE)的问题是,你更关心精确地建模高级认知功能,而不是例如。桑德伯格(2013).桑德伯格期望WBE可以通过精确地建模低层次的大脑功能来实现(在尺度分离的层面上,无论在哪里),相反,你可以使用一种称为“认知架构”的认知过程来严重依赖于建模更高层次的认知过程ACT-R..是因为你觉得会这样吗更容易而不是桑德伯格的方法,还是出于其他原因?


Kenneth Hayworth.:我认为关键的区别是,哲学家关注是否介意上传(这个词我宁愿WBE)原则上是可能的,而且,在较小程度上,是否等技术性的困难将其未来成就了到目前为止,它的可能性可以安全地忽略对于今天的计划。有了这些动机,哲学家们倾向于倾向于假设最少的争论,例如,精确地模拟低水平的大脑功能。

作为一种练习认知和神经科学家,我从根本上具有不同的动机。从我的培训来看,我已经完全相信大脑的运作可以在一个全面的机制层面上理解,具有足够的精度来允许心灵上传。我只想努力在现实中努力上传。为此,我需要开始了解要求,而不是基于最少的假设,而是基于该领域的当前最佳理论。

To use an analogy, before airplanes were invented one could argue that heavier-than-air flying machines must be possible in principle even if it meant copying a bird’s flapping motions etc. This is a sound philosophical argument but not one that engineers like the Wright Brothers would focus on. Instead they needed to know the crucial elements necessary for heavier-than-air flight –lift, drag, thrust. Understanding these allowed them to start building and testing, refining their theories and engineering.

如果我们想要创造一种技术,把一个人的思想上传到一个计算机模拟中,并让这个模拟具有与原始模拟相同的记忆、智力、个性和意识,那么我们就需要从顶层理解这些认知功能开始。认知科学领域和高度研究的智能行为计算模型(如ACT-R)可以找到这些理论。金宝博娱乐

我的研究重点是理解认知模型的计算元素金宝博娱乐,如ACT-R(符号表征,产生规则等)是如何映射到大脑的神经回路上的。这让我对保存、扫描和模拟一个人的大脑需要哪些技术做出了具体的预测。这些是我目前正在研究的技术。


路加福音Muehlhauser:如何广泛使用或接受是ACT-R?只是通过文学来看,在认知神经科学中看起来似乎并不是特别占主导地位,但也许这只是因为没有其种类的高级模型是占主导地位的。例如。似乎在新的1100多页中似乎没有提及牛津认知神经科学手册也没有在1800多页的行为神经科学百科全书我很少看到不是ACT-R支持者的人提到它。


Kenneth Hayworth.:看Act-R的主要网站我计算了与ACT-R理论相关的1,035个单独出版物或使用ACT-R建模框架。本出版物的出版物来自数百名研究人员,并延伸了几十年,并在今天继续强劲。金宝博娱乐Act-R不会被视为“认知神经科学”理论,因为它没有谈论神经元(尽管已经试图将Act-R映射到我将讨论的神经框架上)。相反,Act-R在认知科学领域被正确归类。当然,在计算机科学,心理学,神经科学,神经病学,认知科学,人工智能,计算神经科学等领域存在杂乱的重叠,并且肯定是设计了从这些各种领域的限制设计。

基于其智能行为模型的典型抽象水平,可以最好地与神经科学的认知科学。认知科学致力于通过算法将思想为传统的处理模拟和符号表示的象征性和符号表示的象征性。金宝博官方通常,人类智能行为的认知科学模式以代表性和算法形式被欺骗。例如,感知实验中的人类注意和内存保留效果的模型可能会使我们的思想包含4个缓冲区,该缓冲区可以用于存储代表在查看屏幕上短暂闪烁的单个字母的符号令牌。请注意,像这样的认知科学模式不谈论神经元甚至脑区域,但它们会对行为响应,响应时序,误差率,学习率等进行具体的可测试预测.-可以以极大的细节和精确测试的影响。心理物理实验。

如果您正在寻找人类如何理解自然语言的解释,或者它们如何解决目标和理由,或者至关重要地,思想如何创造和维护我们的意识的“自我模型”,然后在这种抽象水平上认知科学模型。真的是唯一一个看的地方。神经科学应该被视为谈论算法底层的实现细节和由这种认知科学模型假设的算法。

现在,作为一个领域的认知科学已经存在很长一段时间,并且已经产生了巨大的小型模型和算法假设,以便人类如何执行各种动作。Way back in 1973 the great cognitive scientist Allen Newell wrote a paper called “You can’t play 20 questions with nature and win” in which he pointed out to the cognitive science community that it needed to strive for “unified theories of cognition” which were designed to explain not just one experimental result but all of them simultaneously. He proposed a particular computational formalism called a “production system” that could provide the basis for such a unification of different cognitive science models. He and others developed that proposal into the widely used SOAR model of human cognition (see his book “Unified Theories of Cognition” for a complete explanation of production systems as a model of the human mind).

有很多人类心智的生产系统模型都是基于这一原创作品,但安德森的AC金宝博官方T-R理论是目前这门课的带头人。因此,ACT-R不应该被看作是另一个计算模型,相反,你应该把ACT-R看作是对整个认知科学领域所有结果的总结——以人类思维的一般计算框架的形式总结。下面是ACT-R网站的屏幕截图,它保存了这些年生成的所有出版物和ACT-R模型的列表。你可以看到这些类别跨越了认知科学的整个领域(例如,语言处理、学习、感知、记忆、问题解决、决策等)。

图像

您还应该注意到,由于ACT-R是一个计算框架,在ACT-R框架中构建的模型真正“工作”的意义是句子解析的ACT-R模型将实际解析句子。

我听到你说“[ACT-R]似乎在认知神经科学中并不占主导地位”。这是绝对正确的。我遇到的大多数神经科学家从未听说过ACT-R或生产系统,通常对认知科学领域的大多数伟大发现都不熟悉。金宝博官方这是一个真正的悲剧,因为认知科学和神经科学被正确地看作是同一个器官——大脑的两个层次的描述。如果没有认知科学的抽象(符号、陈述性记忆块、产生规则、目标缓冲器等),神经科学在试图解释神经元如何产生思维时面临着一个不可逾越的鸿沟。这就像必须通过描述晶体管级的操作来解释计算机程序Microsoft Word是如何工作的。这是不可能的。我们必须引入中间级别的抽象(内存缓冲区、if-then语句、while-loop等),以便创建一个可以理解的Microsoft Word理论。同样的道理也适用于大脑如何产生思维。

我认为任何完整的物理大脑如何产生的完整理论必须包括以下四个级别的描述:

  1. 意识和自我的哲学理论(例如:Thomas Metzinger的书“是没有人:自我模型的主观性理论”)
  2. 人类认知控制架构的认知科学模式(例如:John Anderson的书“人类思想在物理宇宙中如何发生” - 最近的Act-R概述)
  3. 海马体记忆系统的“人工”神经网络结构、感知特征层次、强化学习模式识别网络等(例如:Edmund Rolls的书《神经网络与大脑功能》)金宝博官方
  4. 真正的生物神经元和系统的电和分子模型(例如:Kandel, Schwartz和Jessell的书《神经科学原理》)金宝博官方

如果您无法在这些描述水平之间切换,了解每个核心原则以及它们如何彼此建立,那么您就没有准备好了解完成整个大脑仿真所需的内容。简单地了解神经科学是不够的。

在这个描述层次中存在的一个最薄弱的环节是第2点和第3点之间的联系。这就是为什么我一直在努力展示ACT-R假设的符号计算是如何通过自动联想记忆等标准人工神经网络模型实现的。我2012年出版动态可分割自联想网络是解决神经绑定问题的一种方法这是第一次尝试。我目前正在准备一份新的出版物和一套神经模型,旨在使这种联系更加清晰。我的目标是向神经科学界证明,像ACT-R这样的认知科学模型所假定的抽象级别,并没有从神经科学家目前所接受的神经网络模型中移除。认知科学模型和神经网络模型之间的这种差距的有效桥梁有可能释放出一波领域间的协同效应,其中认知科学自上而下的约束可以直接告知神经科学模型,神经科学自下而上的约束可以直接告知认知模型。


路加福音:指定程度如何?特别是,你能举一个令人惊讶的是一个令人惊讶的,新的量化预测的例子,在实验后,结果是正确的?(Act-R仍然可能是有用的,即使这尚未发生,但如果发生这种情况,那么就会知道他们会很高兴!)


肯尼斯这个问题的一个难点在于,ACT-R实际上是一个创建大脑功能模型的“框架”,它本身并不是一个模型。研究金宝博娱乐人员通常使用ACT-R框架来创建一个特定认知任务的模型——比如为学生如何学习解决代数表达式建模。为了成功,该模型必须对错误率和错误类型、反应速度以及这种速度如何随着实践而提高等进行定量预测。任何特定的ACT-R模型都由一组初始“结果”(符号模式匹配if-then规则)和“声明性内存块”(符号记忆)组成,这些都被认为是个体已经学会的。该模型将使用这些初始生成规则和内存块生成智能行为。它还会在试错学习过程中改变规则和块的权重,并在与模拟环境交互时产生新的生成规则和新的记忆。

现在有人可以问你关于新颖预测的问题,不管是关于特定的ACT-R模型还是关于ACT-R框架本身。要挑选一个ACT-R模型做出“令人惊讶和新奇”预测的特别好的例子,你可能想看看这篇论文:《大脑的中央回路》(Anderson, Fincham, Qin, and Stocco 2008)。在那篇论文(以及一系列后续论文)中,认知任务的ACT-R模型不仅用于预测行为反应,还用于预测执行认知任务的受试者的功能磁共振BOLD激活水平和时间。考虑到ACT-R团队花了许多年的时间在没有fMRI数据作为限制的情况下开发大脑功能模型,观察这些模型与这种新类型的数据相比表现如何特别有趣。

至于ACT-R体系结构本身的预测,我想指出ACT-R的中心预测可能直接回到它的初始阶段——预测有两种学习类型:“程序性”和“声明性”。这一区别现在已经确立(想想对健忘症患者HM的研究),很难记起当ACT-R被发明出来时,这一区别还没有得到解决。事实上,这就是ACT-R和SOAR认知结构的关键区别。SOAR是建立在一个错误的预测之上的——大脑中的所有知识都被编码为程序规则。这个错误的预测就是为什么SOAR失去了认知科学界的支持,而ACT-R仍然被广泛使用的原因。

你问“ACT-R有多精确?”这是个好问题。随着新的信息的出现,ACT-R体系结构在过去几年中发生了显著的变化。在过去的十年中,它经历了在生产规则中模式匹配所允许的复杂性的戏剧性简化。它还设置了一些核心性能和学习参数的值(例如,现在将执行单个生产规则所需的时间设置为50ms)。这些ACT-R结构参数当然是通过将数据拟合到行为实验中来确定的,但由于ACT-R是作为一个整体的大脑理论,个体模型不允许任意改变这些参数来适应他们的特定数据。实际上,这些ACT-R架构特征已经成为建模者在提出特定认知任务的新ACT-R模型时自由度的一个重要约束。ACT-R框架参数的这些更严格的规范的成功或失败最好由它对广泛行为建模的成功程度来判断。关于这一点,我要再次指出使用ACT-R的广泛出版物。

然而,我不认为人们应该根据新奇的预测来评判ACT-R。它被设计成一个概括的理论来解释大量的认知科学事实。当它的预测被发现不合理时,它应该(而且已经)改变了。例如,根据我们对神经网络的了解,ACT-R最初的产品匹配模型基本上是站不起来的,所以它被抛弃了,取而代之的是一个新的更简单的版本。

我认为判断ACT-R的最好方法是理解它的目的是什么,它不应该做什么。ACT-R被用来在计算水平上模拟认知任务,而不是在神经执行水平上。它在计算水平上是非常具体和明确的,并且已经被证明为这一水平上的各种智能人类行为提供了令人满意的(初步的)解释。我认为这是我们在计算水平上最好的人类思维模型,因此作为神经科学家,我们应该把它作为理解大脑的神经回路可能执行的高级计算类型的起点。


路加福音:回到WBE。你是2007年研讨会的参与者,那次研讨会导致了FHI全脑仿真:路线图报告。您是否会介意在报告中分享您自己的一些关键问题?特别是,报告的表4(第39页)总结了可能的建模并发症,以及估计他们有多可能对WBE有必要以及他们将如何实施。您最强烈地不同意哪些估计值?(通过“WBE”我的意思是报告称之为成功标准6a(“社会角色适合仿真”),以便留下意识和个人身份的问题。)


肯尼斯首先,我想说的是,安德斯和FHI举办那个研讨会是多么的棒。与此同时,看到这一领域的进展是令人惊讶的。我同意该报告的大部分主要结论,但既然你问我不同意什么,我就集中谈谈我有保留意见的几点。

该报告开始,一个题为“全系统理解”的部分,其中“WBE的重要假设是为了模拟大脑,我们不需要了解整个系统,而是我们只是金宝博官方需要一个数据库,其中包含有关大脑和知识的所有必要的低级信息,从时刻将大脑状态改变大脑状态。“(第8页)

我同意在不全面了解大脑如何工作的情况下实现WBE在技术上是可能的,但我严重怀疑这是它会发生的方式。我相信我们的神经科学模型,以及测试它们的实验技术,将在未来几十年里继续快速发展,这样我们就能在把WBE应用到人类身上之前,对大脑各个层面的功能有一个非常深刻的理解。在这种情况下,我们将确切地了解报告表4中列出的哪些特性是需要的,哪些是不必要的。

作为一个具体的例子(意味着争议),有几种类型的皮质神经元认为向皮质的主要兴奋细胞提供一般的前馈和反馈抑制。这些抑制细胞有效地调节允许在给定时间(即“神经表示的”稀疏“)活泼的细胞的百分比。我怀疑这些抑制细胞的细节将在未来的未来建模,因为在计算机模型中可以更容易,更可靠地强制执行这种稀释的稀疏。现在,这个建议可能会将许多读者作为一个特别有风险的捷径,他们可能会问“我们如何确保这些抑制性神经元的详细功能对心灵的操作来说并不至关重要?”这可能是这种情况,但我的观点在这里,当我们有技术实际上尝试一个人类的人,我们会肯定会知道什么是“捷径”。测试这些假设所需的实验比自身更简单。


路加福音:在您的观点中,如果资助的话,一些具体,易行的“下一步研究项目”可以在未来10年内向WBE表现出实质性进展吗?金宝博娱乐


肯尼斯在未来的十年里,WBE的进展很可能与连接组学(自动电子显微镜(EM)测绘脑组织,以揭示神经元之间的精确连接)领域的进展联系在一起。自从2004年发明系列块面扫描电子显微镜(SBFSEM或SBEM)对这一领域的兴趣呈爆炸式增长。SBFSEM是第一个真正展示了如何从原则上“解构脑组织”并提取其精确接线图的自动化设备。自那以后,SBFSEM经历了巨大的改进,并与其他几个自动电子显微镜工具一起在纳米尺度绘制脑组织(Temca.ATUM-SEM.FIB-SEM.)。Kevin Briggman和Davi Bock(这两个领导者)写得很棒评论文章2012年覆盖了所有这些连接组学成像技术的当前状态。简而言之,神经科学家们终于有了一些自动化的工具,可以通过行为和电生理学手段,对他们多年来一直在研究的神经回路的完整突触连接进行成像。最近,一些“高调”的连接组学出版物(自然2011自然2011自然2013自然2013自然2014)味道可以用这些工具来实现的东西,但这些出版物只代表了神经科学所做的方式可能成为革命的“冰山一角”,这一场长远来看的革命将导致WBE。

然而,目前正在阻止整个Connectomics领域的一件事 - 缺乏自动化解决方案来跟踪神经连接。尽管在自动化3D EM成像方面存在很好的进展,但这些Connectomics出版物中的每一个都需要一支小型军队的专门的人类示踪剂来补充和“纠错”当今软件跟踪算法的输出。这条障碍已被Connectomics从业者广泛认可:

迄今为止,所有细胞分辨率的连接组学研究都涉及到成千上万小时的人工神经重建工作。虽然成像速度有了很大的提高,但重建速度却大大滞后。对于任何一种被提议的高密度电路重建(老鼠的新皮层[柱],嗅球,鱼的大脑和人类的新皮层[柱]…)分析时间估计至少比迄今为止已经完成的工作要大一个数量级,如果不是几个数量级的话……这些预想的项目的需求大约是每个项目几十万小时的手工劳动。这些巨大的数字构成了细胞连接组学中的分析缺口:尽管成像更大的电路变得越来越可行,但重建它们却并不可行。——Moritz Helmstaedter (自然方法回顾2013年

解决这个“分析差距”的完整方案可能需要在三个方面取得进展:

  1. 改进了3D成像分辨率
  2. 改善组织保存和染色
  3. 更高级的算法

今天的大多数ConnectMics成像技术仍然依赖于组织的物理切片,这实际上限制了EM成像的“Z”分辨率> 20nm。然而FIB-SEM.改造的技术使用聚焦离子束可靠地“抛光”在每个EM成像步骤之间的<5nm的组织层。这意味着FIB-SEM数据集可以将voxel分辨率的图像组织为低至5x5x5nm。当试图遵循管状神经元过程时,这种额外的分辨率是至关重要的,这通常会缩小到直径<40nm的速度。这种改进的FIB-SEM分辨率已成为证明了以显著提高当今追踪算法的有效性。我一直致力于扩展这种FIB-SEM技术,使其能够处理任意大的容量。我使用加热的、油润滑的钻石刀无损地将大块组织分割成最佳大小(约20微米厚)的块,以获得高分辨率、平行的FIBSEM成像。今年晚些时候我会有一篇关于这个的论文。

这种更高的分辨率(FIB-SEM)成像,以及跟踪算法的可能前进,最终能够实现神经组织的全自动追踪的目标-I.。它应该克服“分析差距”,消除了对人类追踪的依赖。

也就是说,只要组织被最佳地保存并染色EM成像。不幸的是,今天最好的组织保存和染色方案限于<200微米厚的组织板坯。此体积限制还代表了Connectomics的基本障碍,我只有一名研究员知道这一点严重接受了删除此限制的挑战 -金宝博娱乐肖恩米卡拉.他制作了实质性进步走向这一目标,但仍然是相当大的工作。

因此,关于您对“特定的,贸易的下一步研究项目”的问题,我将提出以下内容:开发用于保存,染色和无损细分整个小鼠大脑的金宝博娱乐协议,以及随机接入FIB-SEM成像的项目a project to build a “farm” of hundreds of inexpensive FIB-SEM machines capable of imaging neural circuits spanning large regions of this mouse’s brain.

我认为Mikula协议可以扩展,为小鼠脑(Mikula,个人通信)的所有部分提供优异的EM染色。我也相信,具有足够的工作和资金,这种鼠标协议可以与我的“无损细分”技术兼容,这将使整个鼠标大脑快速可靠地切入小立方体(〜50x50x50微米)任何其中可以装入FIB-SEM机器进行成像。我也认为,具有足够的资金,今天的一代昂贵(> 1毫升USD)FIB-SEM机器可以重新设计,并且大大简化为大规模制造。

我认为这样的项目确实在十年的时间范围内进行了易行,并且实际上它将提供神经科学家与工具(我所谓的)连接天文台),绘制出与视觉、记忆、运动控制、强化学习等相关的神经回路,这些回路都位于同一只老鼠的大脑内。让研究人员不仅能看金宝博娱乐到单个区域的回路,还能看到这些区域之间的长距离连接,从而使它们作为一个连贯的整体来控制老鼠的行为。我认为,在这个层次上,我们将开始看到各种协调的、符号级操作的雏形,这些操作是由认知模型如ACT-R所预测的,这些类型的执行控制电路在我们身上进化,成为我们独特的智力和意识的基础。

我们必须记住并接受人类全脑仿真的长期目标几乎难以想象地难以难以想象。在未来十年或两年内,预计对该目标的重大进展是荒谬的。但我相信我们不应该缩小,说到那个目标是我们最终追求的目标。我相信神经科学家和认知科学家应该自豪地接受这些想法,即他们的田地最终会成功地揭示人类思想和意识的完整和令人满意的机制解释,并且这种理解将不可避免地导致心灵上传技术。有很多努力的工作要做,我们不能忽视在我们成功的活动中等待的巨大收益。


路加福音:谢谢,肯尼斯!