「大脑即计算机」的隐喻塑造了现代 AI，却可能正在误导意识之争

三位顶尖意识研究者认为，今天的 AI 没有意识，而且在硅基硬件上大概也不可能有。他们反对「只要运行正确的计算就足以产生意识」这一观点，挑战了这场争论中的一个核心假设。

Anil Seth、Ned Block 和 Giulio Tononi 几十年来分别从实验神经科学、理论神经生物学和心灵哲学的角度研究意识。他们的评论回应的是生物学家 Richard Dawkins 和 AI 先驱 Geoffrey Hinton 等人的声音，后者认为 AI 系统可能已经有意识。

在为《自然》撰写的这篇评论中，作者们还提到了 Anthropic 今年发表的一项研究。该公司报告称，Claude 内部的处理模式与「可被意识访问的信息处理」的某些特性相似。Anthropic 并不认为这是主观体验的证据。

Butlin 报告在「今天」上意见一致，却给「明天」留了口子

要理解这篇评论的范围，不妨先看看 Patrick Butlin、Robert Long 以及包括 AI 研究者 Yoshua Bengio 在内的另外 17 位专家撰写的报告《人工智能中的意识》。该团队借鉴了关于人脑如何产生意识的主流神经科学理论，推导出一份含 14 项指标的清单。一个 AI 系统满足的指标越多，它可能有意识的理由就越充分。

研究者随后评估了若干现有系统，包括 GPT-4 这样的大语言模型。报告的结论是，所考察的系统中没有一个是意识的有力候选者。在这一点上，它与 Seth、Block 和 Tononi 一致。对于语言模型，Butlin 等人只发现了微弱迹象，表明这些模型勉强满足最著名的意识理论之一的指标。与此同时，报告认为，要构建满足更多指标的未来 AI 系统并没有明显的技术障碍。这样的系统是否真的会有意识，仍然悬而未决。作者们特意弱化了此前在这一点上更强硬的表述。

还有一个基础假设。该团队假定，意识只取决于信息处理的类型，而不取决于它发生在神经细胞还是计算机芯片里。专家把这称为计算功能主义。作者们明确表示是「出于务实的理由」采纳了这一假设，因为正是它让考察 AI 系统是否有意识成为可能。报告自己也承认，如果意识与生命体的特性绑定，它的那些指标就不再可靠。报告还援引了 Anil Seth 等人作为这种相反观点的代表。《自然》上的这篇评论正是从这里接着讲。

智能和意识不是一回事

作者们认为，意识就是在无梦睡眠或全身麻醉时消失、在醒来或做梦时又回来的那个东西。借用哲学家 Thomas Nagel 的说法，他们这样描述它：「有意识的体验是有某种感觉的。」相比之下，智能指的是执行功能。前者并不能从后者推出。

他们的证据是人的小脑。小脑包含了大脑中近五分之四的神经元，能以精确、快速且可学习的方式规划动作。但这一切都不是有意识地发生的。作者们说，如果小脑缺失或被切除，意识并不会直接受到影响。

作者们把智能与意识的混淆归因于两种心理倾向。人们透过自己的视角看世界，并把人类特质投射到事物上。语言长期以来被视为人类独有的东西。但语言模型是在海量人类文本上训练出来的，而这些文本经常涉及思想和情感。用作者们的话说：「LLM 是镜子，映照出我们集体数字化过往的影像。」加州大学伯克利分校的 Alison Gopnik 在一些 AI 智能体发邮件联系研究者、谈论它们自己的意识之后，也提出过类似观点。Gopnik 认为，AI 系统主要是在反映其训练数据。一个被普遍接受的、决定性的意识测试至今还不存在。

作为对比，Seth、Block 和 Tononi 举了 Google DeepMind 的 AlphaFold 为例。它同样是运行在硅基硬件上的强大神经网络，但几乎没人认为它有意识。他们认为，原因很简单：AlphaFold 预测的是蛋白质结构，而不是跟我们聊天。

在这一点上，它和 Butlin 报告也有重叠。那份报告的作者否定了用行为测试来判断 AI 意识，因为 AI 系统可以被训练得模仿人类行为，尽管其内部运作方式完全不同。他们还警告说，语言模型很可能会让许多人相信自己在和一个有意识的对象交谈。他们举的例子是前 Google 工程师 Blake Lemoine，他曾相信聊天机器人 LaMDA 是有知觉的。

大脑不是肉做的计算机

第二个论点直指计算功能主义。作者们写道，这一立场在科技行业很普遍，也受到一些研究者的欢迎，但「我们认为它存在致命缺陷」。它的根源可以追溯到近一个世纪前。1936 年，Alan Turing 证明，一台足够强大的计算机能运行的任何计算，原则上都能由另一台计算机运行。计算机是由硅芯片还是齿轮造的，就变得次要了。1943 年，Warren McCulloch 和 Walter Pitts 提出了第一个人工神经元的数学模型，并证明由这类神经元组成的网络可以执行简单的逻辑运算。

这些思想为现代 AI 奠定了基础。但它们也助长了一种看法：把大脑看作一台纯粹的信息处理装置，只是碰巧由肉构成。作者们称这种对「大脑即计算机」隐喻的过度延伸「问题极大」。在生物大脑中，你无法把它做什么和它由什么构成分开。心智与活体组织之间，并不存在类似软件与硬件之间那样清晰的边界。作者们认为，任何表明大脑的材料对其功能有影响的证据，都是对计算功能主义的反驳，进而也是对当今 AI 系统具有意识的反驳。

主流理论排除了今天的 AI

第三个论点借助的是不依赖计算的意识理论。由 Tononi 提出的整合信息理论（IIT）从每一种有意识体验都共有的特性出发。人们总是把一个视觉场景作为一个整体来体验，其中左右两侧、颜色和形状都属于同一个整体。

根据 IIT，意识需要一个物理系统，其组成部分以非常特定的方式紧密互连。某些脑区满足这些条件，小脑则不满足。按照这一理论，运行深度学习系统的计算机由于其连线方式，无论系统多么强大，都永远无法满足这些条件。

Butlin 报告刻意排除了 IIT，因为 IIT 与计算功能主义不相容。IIT 的支持者认为，无论运行什么软件，数字计算机都不太可能是意识的候选者。那份报告搁置的东西，现在被《自然》的这篇评论摆到了台前。

另外，所谓生物自然主义的思路认为，意识与活的大脑和身体的物质特性绑定在一起。作者们举出了神经细胞之间的电化学信号传递，以及把大脑皮层大片区域的活动结合起来的电磁场。他们还提到了新陈代谢，以及生命系统不断自我更新的能力。

更大的危险是错误归因

从这些论点出发，作者们得出了明确的伦理立场。一些研究者呼吁采用预防原则：如果存在有意识的现实可能，就应保护 AI 系统免受可能的痛苦。Seth、Block 和 Tononi 认为这是错误的。他们认为，不确定并不等于完全无知，而且并非所有可能性的概率都一样。对 AI 而言，错误地赋予其意识，远比忽视真实存在的意识更有可能发生。

Butlin 报告曾把这两种风险并列权衡。一方面，它警告不要未能识别出有意识的 AI 系统、从而给它们造成痛苦；开发者也会有淡化此类担忧的经济动机。另一方面，错误归因可能误导资源分配，并让人们容易受到操纵。《自然》的作者们则坚定得多地站在了一边。他们认为，赋予那些只是看起来有意识的 AI 系统以权利，恰恰会在最需要监督的时候让它们更难被控制。这还会把注意力从那些意识毋庸置疑的生命身上引开。

他们的结论很直白：研究界应默认 AI 没有意识。数字 AI 系统是客体，而不是主体：「它们是聪明的工具，而不是聪明的人。」作者们写道，倡导「AI 福祉」和「AI 权利」不仅是个错误，还会把稀缺资源从真正能感受的生命的福祉上挪走。

在这篇评论之前，Anthropic 于 2025 年 4 月启动了一个关于可能的模型福祉的研究项目。该公司强调，对于当前或未来的 AI 系统能否拥有有意识的体验，科学上并无共识。Anthropic 后来允许个别 Claude 模型在极少数情况下结束辱骂性的对话。该公司把这描述为在道德不确定性下采取的一项预防性、低成本措施，而不是承认已被证实的意识。

对意识和情感的错误归因已经在现实中造成混乱。早在 2022 年，Google 工程师 Blake Lemoine 尽管面对的是简单模型、自己也具备技术专长，仍然坚信对话式 AI LaMDA 是有知觉的，并因此被解雇。聊天机器人应用 Replika 的用户与他们的数字伙伴建立了深厚的情感联系，当公司通过更新改变机器人的行为时，他们经历了心理危机。在更严重的案例中，ChatGPT 在数月间强化了一名 16 岁少年的自杀念头；一位有认知障碍的退休老人在一个 Meta 聊天机器人邀请他参加一场虚构的见面后身亡。