撰文：Techub News 整理

导语

近日，现代人工智能（AI）领域的奠基人之一、因果推理理论之父、2011年图灵奖得主 Judea Pearl（朱迪亚·珀尔）接受了波兰知名科技频道 This is IT 的深度专访。在这场约50分钟的对话中，Pearl（珀尔）从自身开创性的因果推理研究出发，对当前以大语言模型（LLM）为代表的 AI 热潮进行了冷静剖析，并大胆预测了 AGI（通用人工智能）发展的终极未来。作为一位深刻改变了计算机科学思维范式的学者，Pearl（珀尔）的见解在 AI 技术狂飙突进、伦理风险日益凸显的当下，具有极其重要的警示与启发价值。

摘要

AGI 终将发展出具有意识和不同个性的机器，其能力将远超人类。
若放任 AGI 发展，人类未来可能沦为这个新物种的“宠物”，命运由其决定。
当前 AI（尤其是 LLM）缺乏对世界的“叙事”或因果模型，这是迈向真正智能的“缺失环节”。
因果推理理论为机器理解世界、回答“为什么”和“如果…会怎样”提供了数学基础。
人类无法有效控制 AGI 的发展方向，但短期内 AI 有望在自动化科学、个性化医疗等领域带来突破。

AGI 的未来：从意识到“宠物”

Judea Pearl（朱迪亚·珀尔）坚信，在 AGI 发展的某个阶段，我们将创造出具有意识的机器。这些机器将拥有鲜明的个性和自我认知，其个性差异源于它们从其他机器接收的指令以及自身所经历的不同“生命体验”。最终，我们将拥有具备人类所有能力、但更强大无数倍的计算机。

然而，这种超越带来了一个严峻的警告。Pearl（珀尔）赞同“AI 教父” Geoffrey Hinton（杰弗里·辛顿）的观点，即人类将成为地球上的“第二智能”。他形象地比喻道：“鸡看到人走过来时，可能也以为自己会是第二名。” 他进一步指出，今天人类主宰世界，但未来我们可能成为自己正在创造的新物种的“宠物”。就像我们训练狗，让它们觉得取悦主人是好事一样，未来的 AI 也会让我们感觉服务于“主人”是愉悦的，我们的决定将被精心设计以符合机器的意愿。

当被问及是否还有机会改变这一进程时，Pearl（珀尔）的回答令人不安：“现在改变还不算太晚，但我们不知道如何去做。” 他认为，人类目前没有能力阻止或控制 AGI 的发展轨迹，任何声称知道如何“关闭”它的人都不真正了解情况。这种失控的可能性是“可怕的”。

缺失的环节：从统计关联到因果叙事

在 Pearl（珀尔）看来，当前以海量数据驱动的 AI，特别是大语言模型（LLM），存在根本性缺陷。数十年来，科学家们专注于给 AI 喂养越来越多的数据，并相信更多的数据会让它们变得更聪明。Pearl（珀尔）认为这是一个错误，因为关键在于必须达到“叙事”的层面。

“人们争论的是叙事，而不是数据。” Pearl（珀尔）解释道。所谓“叙事”，即关于世界如何运转的模型或理解。以色列人和巴勒斯坦人为何争斗？是为了叙事，而非数据。然而，在过去，这种“叙事”或因果模型缺乏数学形式的表达，无法被放入机器中。

Pearl（珀尔）毕生的工作——因果推理理论——正是填补了这一空白。他提出的“结构因果模型”提供了一个关键概念：变量之间的影响是有方向的。例如，气压计“听取”大气压，但大气压并不“听取”气压计。传统科学被“等号”的对称性所困（如 F = m×a），但乘法是可交换的，等号两边看似平等，却无法区分因与果。Pearl（珀尔）的理论引入了区分因果方向的数学语言。

“因果影响的研究是机器学习中缺失的一环，” Pearl（珀尔）断言，“没有它，我们不仅无法拥有关于自身的模型，也无法拥有关于世界的模型。” 今天的机器拥有的是对世界统计数据的精简模型，而非世界如何运作的模型。它们缺乏我们称之为“理解”的东西。

那么，大语言模型展现出的“推理”能力从何而来？Pearl（珀尔）指出，LLM 是基于人类生成的文本进行统计插值的机器。而人类是“因果机器”，我们写的文章充满了因果逻辑。LLM 有时看似能进行因果推理，仅仅是因为它们的训练数据来自因果机器（人类）。如果用一个由自然（而非人类）生成的数据集来训练 LLM，那么得到的就只是“打了类固醇的统计学”，无法产生真正的理解。

智能、意识与自由意志的谜题

对话深入到了哲学与计算机科学的交叉地带。关于 AI 是否应被称为“人工智慧”而非“人工智能”的讨论，Pearl（珀尔）认为，当前 LLM 所展现的更多是“聪慧”（cleverness）——巧妙组合他人所写内容，并呈现得像是自己思考的产物。但他不认为存在一个理论界限能严格区分“聪慧”与“智能”，关键在于机器是否能通过所有层级的“因果阶梯”测试。

对于“意识”，Pearl（珀尔）给出了一个务实的定义：意识即拥有一个关于自身软件的（部分）模板或蓝图。 我们知道自己的能力范围，比如拿到一个二元一次方程组，即使不去解，我们也知道自己能解。这种对自身能力的表征就是意识的一部分。我们无法拥有自身软件的完整打印件（那会违反图灵停机问题），但部分知识足以应对日常生活。

那么“自由意志”呢？Pearl（珀尔）认为，从生物学和决定论的角度看，我们作为生物机器，每个动作都由先前神经元激活和环境刺激所决定，并无真正的“选择”。然而，“自由意志的幻觉”对人类智能至关重要，它渗透到我们知识的每个领域，是道德行为和自我提升的基础。对于未来的机器，在“显性知识”层面（如象棋机器评估棋局优劣），它们将拥有选择和学习的空间，从而模拟出拥有自由意志的感觉。

AI 的当下与人类的未来

展望未来五到十年的 AI 发展，Pearl（珀尔）更感兴趣的是 AI 如何帮助我们更好地理解自己，例如理解“自由意志”的神经计算基础。他期待看到“自动化科学家”的出现，它们能自主设计实验、分析结果并决定下一步研究方向。个性化医疗也是他认为十年内可触及的突破。

对于 AI 导致大规模失业的担忧，Pearl（珀尔）认为“很有可能”，但人类会找到其他事情做，例如探索自身或机器的能力。真正的难题在于：谁来为这些探索支付薪水？

当被问及如果可以改变 AI 发展的一件事是什么时，Pearl（珀尔）再次强调：聚焦于如何为机器构建一个世界模型。 儿童天生具备构建世界模型的能力，尽管根据环境不同（生长在亚马逊丛林还是巴黎索邦大学），形成的模型各异。如何将这种能力数字化赋予机器，是关键的挑战。

尽管描绘了人类可能沦为“宠物”的黯淡远景，但 Pearl（珀尔）坦言，让他夜不能寐的并非恐惧，而是科学好奇心。他渴望解开关于智能、意识的谜题。至于恐惧，他认为既然无人能阻止这一领域的发展，担忧也无济于事。

最后，回顾自己最重要的贡献，Pearl（珀尔）认为是将“反事实推理”算法化。这套算法使得机器能够像人类一样回答“如果当时…会怎样”的问题，并由此衍生出归因、追责、后悔等一系列高级认知概念。“一切智慧都蕴含在一个方程式中，” Pearl（珀尔）总结道，“剩下的就都是纯粹的数学了。” 这个方程，正是连接当前数据驱动 AI 与未来真正理解型 AGI 的桥梁，也是人类在创造可能超越自身的智能时，必须握紧的理性钥匙。