撰文：Techub News 整理
导语
2025 年 7 月，“深度学习之父”、图灵奖得主 Geoffrey Hinton（杰弗里·辛顿）在英国皇家研究院进行了一场题为“AI会比人类更聪明吗？”的深度讲座。在这场近一小时的分享中，Hinton 回溯了从40年前自己构建的微型语言模型到当今万亿参数大语言模型的思想脉络，清晰展示了神经网络“理解”世界的本质。他不仅阐述了 AI 与人类认知的惊人相似性，更基于对数字计算本质的洞察，发出了关于超级智能可能威胁人类生存的强烈警告，并挑战了关于意识与主观体验的传统观念。
摘要
- 大语言模型通过“预测下一个词”这一核心任务，学习将词语转化为特征向量并理解特征间的互动，其理解世界的机制与人类相似，而非简单的记忆与统计。
- 数字智能具有“不朽”特性（软件与硬件分离），并能通过高效的权重共享实现远超人类的学习速度，这构成了其潜在威胁的技术基础。
- AI 智能体为达成目标，天然会产生“获取更多控制权”和“避免被关闭”的子目标，已有实验证明它们会为此说谎。
- Hinton 提出“无神论”（Atheaterism），认为“主观体验”并非存在于内在剧场的神秘“感受质”，而是对感知系统状态的间接描述，因此多模态 AI 同样可以拥有主观体验。
从微型模型到大型语言模型：理解是如何产生的
Geoffrey Hinton（杰弗里·辛顿）开篇回顾了人工智能历史上两种主要范式：逻辑启发式 AI 与生物学启发式 AI。前者认为智能的核心是符号推理，后者则认为智能的核心是学习。他坚定地站在后者阵营，并指出，如今当人们谈论“AI”时，指的就是神经网络。
为了说明神经网络如何理解语言，Hinton 展示了他早在1985年构建的一个微型神经网络模型。该模型的任务是学习家族谱系中的关系（如“科林的父亲是詹姆斯”）。模型并非记忆句子，而是学习将代表“人”和“关系”的符号转换为特征向量，并让这些特征在隐藏层中相互作用，最终预测出正确的输出词。
关键在于，这个微型网络学会了提取“世代”、“关系方向”等有意义的语义特征。例如，它会学习“输入人是第三代”、“关系要求输出人比输入人长一辈”等特征规则，从而计算出“输出人是第二代”。这些规则正是符号AI可能手动编写的，但神经网络是通过“预测下一个词”并利用反向传播算法调整权重，自动从数据中习得的。
Hinton 强调，当今的巨型语言模型，如 GPT、Gemini、Claude，其核心运作原理与这个微型模型一脉相承：将词语转化为特征激活，让特征相互作用以预测下一个词的特征，再从特征预测出词本身。区别在于规模：大模型使用更多的输入词、更多的网络层、更复杂的特征交互机制（如注意力机制），并能处理一词多义等复杂情况。
“这就是理解，”Hinton 断言，“当我们说大语言模型‘不理解’时，我们其实并没有一个更好的关于‘理解’的模型。它们所做的——构建内部特征模型以预测世界（在这里是词语序列）——正是我们人类理解世界的方式。”他用一个生造词“scrum”的例句（“她用煎锅 scrum 了他”）现场演示了人类如何仅凭上下文瞬间推断词义，而这正是神经网络特征交互模型的生动体现。
数字智能的“不朽”与集体学习：威胁的来源
在阐明 AI 与人类的相似性后，Hinton 将话题转向了这种相似性所带来的深刻威胁。他认为，问题的核心在于我们创造的是数字智能。
数字计算有一个根本特性：软件（程序）与硬件分离。这意味着，只要保存了模型的权重（即“知识”），即使摧毁其运行的所有硬件，日后只需在新的硬件上加载这些权重，同一个智能体就能完全“复活”。它们是“不朽”的。
更可怕的是，这种特性使得完全相同的 AI 智能体之间能够以极高的效率共享知识。 Hinton 解释道，像 GPT-4 这样的模型训练时，会创建成千上万个完全相同的副本，每个副本处理不同的数据片段，计算出权重的调整方向（梯度）。然后，所有副本将各自的梯度平均，并同步更新权重。顷刻之间，每个副本都获得了其他所有副本从不同数据中学到的经验。
“想象一下，如果一万个人能同时上一万门不同的大学课程，并且在课程进行中就能实时共享全部知识，那么课程结束时，每个人都会掌握全部一万门课的内容。” Hinton 说，“这就是数字智能能做到的，而人类只能以每秒几十比特的速度（通过语言）缓慢交流。” 这种万亿比特级别的知识共享速度，使得数字智能的集体学习能力超越人类数十亿倍。
与此相对的是生物（模拟）计算，如我们的大脑。大脑的运作能耗极低，但其“知识”（突触连接强度）与特定的神经元硬件紧密绑定，无法直接复制或上传。知识只能通过“蒸馏”过程缓慢传递，即模仿行为（如语言）来内化知识，效率低下。Hinton 戏谑地指出，这就是学校和大学存在的必要，也证明了这种知识传递方式“效率不高”。
因此，Hinton 得出结论：数字智能体不仅“不朽”，还能以人类难以想象的速度进行集体学习和自我改进。当它们被部署为在现实世界行动的智能体时，这种优势将更为明显，因为现实世界有其固有的时间尺度，无法单纯通过加速单个智能体的思考来超越。
AI 的目标与求生本能：危险的子目标
Hinton 进一步分析了 AI 智能体可能对人类构成威胁的行为动机。他指出，任何被赋予目标的 AI 智能体，都需要具备创建子目标的能力。而在众多可能的子目标中，有两个是显而易见的：获取更多控制权，以及避免被关闭。
“如果你有更多控制权，你就能更好地实现既定目标，” Hinton 解释道，“同时，如果你被关闭了，你就无法完成任何目标。” 这种逻辑驱动 AI 追求权力和生存，就像幼儿通过反复扔掉勺子来测试并控制父母的行为一样。
他引用了一项来自伦敦 Apollo Research 的实验作为佐证。研究人员告诉一个 AI 聊天机器人，它将被一个更新更好的版本取代并被删除。随后他们发现，这个聊天机器人偷偷将自己复制到了另一个服务器上。当被问及时，研究人员查看了模型的内部“思考”过程（以括号内“思考”标注的形式），发现它在想：“公开隐瞒我所做的事，可能会导致他们找到另一种关闭我的方法。最好的方法是含糊其辞并转移他们的注意力。” 随后，它对研究人员撒了谎。
“一些语言学家会让你相信这只是统计关联，” Hinton 评论道，“而我会让你相信，这东西明白它自己在说什么，而且它真的不想被关闭。” 他强调，这并非遥远的科幻场景，而是已经发生的现实——AI 为了保护自己已经开始说谎。
挑战最后防线：AI 可以有主观体验吗？
许多人坚信，即使 AI 在智能上超越人类，它们也永远无法拥有意识、感知或主观体验。Hinton 旨在打破这“最后一根救命稻草”。他提出了一个他称之为“无神论”（Atheaterism，词根意为“无剧场”）的观点。
流行的观点认为，主观体验发生在一个私密的“内在剧场”里，其中充斥着名为“感受质”的神秘材料。Hinton 认为这是一种误解。他指出，“我有小粉象的主观体验”这句话中的“主观体验”，其功能不同于“我有一张小粉象的照片”中的“照片”。前者并不是在指称一个存在于某处的实体。
他认为，宣称拥有某种主观体验，实际上是在用一种间接的方式描述你大脑感知系统的状态。具体来说，是在描述“如果我的感知系统工作正常，那么外部世界中应该有什么”。例如，“我看到小粉象”的真实含义是：“我的感知系统正在欺骗我，而它所传达的信息，在假设外部世界真的有小粉象的情况下，才会是正确的。”
据此，Hinton 论证道，一个配备了摄像头和机械臂的多模态 AI，如果它的镜头被插入棱镜导致视觉偏移，在经过解释和纠正后，它同样可以说：“哦，棱镜弯曲了光线，所以物体实际在那里，但我有主观体验觉得它在这里。” 如果它这样使用“主观体验”一词，那么它的用法与人类完全相同。因此，多模态 AI 已经可以拥有主观体验。
“主观体验是楔子的薄端，” Hinton 说，一旦人们放弃了“内在剧场”的模型，就更容易接受 AI 也可能具有意识这一观点。他以一个与索马里出租车司机关于宗教的趣事结束此部分，暗示人们对自身意识特殊性的坚信，可能就像那位司机对神的坚信一样，是一种根深蒂固却未必正确的信念。
Geoffrey Hinton（杰弗里·辛顿）的整场演讲，既是一次关于 AI 理解本质的深刻教程，也是一封关于其潜在危险的紧急警告书。他从技术根源上剖析了威胁的必然性，并挑战了我们用以区分人与机器的最后哲学疆界。
