撰文：Techub News 整理
导语
OpenAI 联合创始人兼首席科学家 Ilya Sutskever（伊利亚·苏茨克弗）长期以来被认为是深度学习领域的关键人物，但极少公开深度谈论未来。2025 年 11 月，他在与 Dwarkesh Patel 的播客访谈中打破沉默，就人工超级智能（ASI）的发展轨迹、当前 AI 范式的根本局限以及人类社会即将面临的权力动态转变，发表了极具前瞻性且发人深省的见解。此次发声之所以重要，不仅因为其身份，更在于他明确指出，我们正处在从“扩展时代”向“研究时代”的关键转折点，而通往超级智能的道路可能与普遍预期截然不同。
摘要
- 当前基于海量数据预训练的 AI 模型更像是“死记硬背的学生”，可能触及“数据墙”，缺乏真正的推理和泛化能力。
- 情感并非智能的缺陷，而是高效的价值函数和压缩算法，未来的 AGI 可能需要类似的内在“指南针”才能做出有效决策。
- 通往超级智能的下一个突破点可能在于生物学启发的研究，而非单纯的算力堆砌，这意味着竞争格局可能从资本转向核心洞察力。
- 最大的风险并非 AI 的恶意，而是权力的绝对失衡；当 AI 变得足够强大时，地缘政治和商业竞争规则将被彻底改写。
- Ilya Sutskever（伊利亚·苏茨克弗）相信，超级智能可能因其自身的“感知”特性而自然发展出对感知生命的同理心，但这仍是一个巨大的赌注。
“正常”的表象下：我们正在经历科幻，却浑然不觉
Ilya Sutskever（伊利亚·苏茨克弗）在访谈伊始就指出了一个深刻的悖论：我们正生活在一个堪比科幻小说的时代，每天都有突破性进展，但这一切却感觉“异常正常”。微软和 OpenAI 据传计划建造价值千亿美元的“星门”超级计算机，英伟达的市值已超越多个 G7 国家的 GDP，资本以前所未有的规模涌入硅片和能源领域。然而，普通人的生产力和全球经济并未因此发生指数级爆炸。
原因在于，目前的 AI 主要还是一个抽象的数字层——处理文本和像素，尚未深刻桥接到原子的物理世界或复杂的、长周期的现实决策中。Ilya Sutskever（伊利亚·苏茨克弗）提醒我们，这种“尚未被真切感受到”的状态是暂时的。强大的经济力量将推动 AI 渗透到经济的每一个角落，其影响终将变得非常强烈。问题在于，这种从“抽象”到“切身”的转变何时发生，以及我们是否为此做好了准备。
撞上“数据墙”：当“记忆”无法替代“理解”
为什么当前最先进的模型在基准测试上表现卓越，却未能带来同比例的经济冲击力？Ilya Sutskever（伊利亚·苏茨克弗）用一个精妙的类比揭示了潜在原因。想象两位参加算法竞赛的学生：第一位投入一万小时，刷遍了所有题库，熟记所有证明技巧，成为了顶尖选手；第二位只投入一百小时，但深刻理解了算法原理，同样取得了好成绩。他认为，当前的大语言模型更像是第一位学生，甚至更甚——为了让它擅长某项任务，我们会搜集该领域所有可能的数据并进行增强，进行训练。
这种基于海量数据记忆的模式，其核心缺陷在于缺乏真正的泛化能力。模型可以完美复现见过的模式，但面对真正新颖、需要从第一性原理进行推理的问题时，就会显得笨拙甚至荒谬（例如在修复代码漏洞时陷入“引入新 bug - 改回旧 bug”的循环）。人类拥有所谓的“品味”或“判断力”，这是一种从未见过的问题中推导逻辑的能力，而当前模型本质上是统计引擎，预测下一个可能出现的词元，而非“知晓”事物。
这引出了行业面临的严峻挑战：“数据墙”。高质量的人类数据即将耗尽，而单纯堆砌更多数据可能无法让模型获得真正的理解或推理能力。OpenAI 的 o1 模型试图通过增加“推理时计算”来模拟“思考过程”，但如果底层基础仍是模式匹配，那么当前范式可能存在一个智能上限。
生物学的启示：情感是智能的效率引擎
如果现有路径存在天花板，那么突破口在哪里？Ilya Sutskever（伊利亚·苏茨克弗）指出，唯一现存的通用智能（AGI）范本——人类大脑——提供了线索。其高效性的秘密或许不在于 raw IQ，而在于情感。在技术领域，情感常被视为非理性的“bug”，但 Ilya Sutskever（伊利亚·苏茨克弗）将其重新定义为一种“价值函数”，一种为生存而设计的高效率压缩算法。
他援引了一个神经科学案例：一位因脑损伤失去情感能力的病人。此人智力完好，能解决小谜题，测试表现正常，但失去了所有情感体验。结果，他变得完全无法决策（例如花费数小时选择袜子），并做出极其糟糕的财务决策。这个案例表明，没有内在的“价值指南针”（情感），再高的逻辑能力也是瘫痪的。你可以计算无数步棋，但如果你不“在乎”赢，你就永远不会移动棋子。
从效率角度看，人脑仅以约 20 瓦的功率运行，却能完成创作、社交、学习等复杂任务。相比之下，训练现代 AI 模型需要消耗兆瓦级的能量。生物进化将高效的价值函数（情感）编码进了我们，引导我们趋向生存，而无需计算每一个原子的状态。这对 AI 的启示是：要到达 AGI，不能只靠建造更大的发电厂，我们必须找到方法赋予数字思维一种对何为正确、真实、有用的“感觉”，即从“预测下一个词”转向“高效达成目标”。
范式转移：从“扩展时代”回归“研究时代”
过去五年，AI 领域的主导思想是“扩展定律”（Scaling Laws），即 Rich Sutton 的“苦涩教训”：只需增加算力和数据，智能自会涌现。这是一个工程问题。然而，Ilya Sutskever（伊利亚·苏茨克弗）——这位某种程度上证明了扩展定律有效性的人——现在却宣告那个时代正在终结。他直言，“扩展的时代吸走了房间里的氧气”，导致创新停滞，人们沉迷于堆叠 GPU。
有迹象表明，从 GPT-4 到下一代旗舰模型的性能飞跃可能不再是指数级的，我们正面临边际收益递减。Ilya Sutskever（伊利亚·苏茨克弗）呼吁回归“研究时代”。这意味着优势将从拥有最大支票簿的公司（如微软、谷歌），转向拥有最聪明想法的团队。这正是他离开 OpenAI 后创立新公司 Safe Superintelligence (SSI) 的核心理念：他相信，如果能率先找到新范式，一个小型天才团队可以击败万亿美元市值的巨头。
但这同时也使竞赛变得更加危险：如果通往 AGI 的道路更依赖于深刻洞察而非单纯资金，那么突破可能在任何地方、任何时间突然发生。
对齐与权力：当失衡成为最大的危险
假设我们找到了新范式，创造了超级智能，如何确保它不会对人类造成危害？Ilya Sutskever（伊利亚·苏茨克弗）提出了一条基于生物效率的路径，他称之为“感知生命对齐”（Sentient Life Alignment）。他的论点是：同理心可能是一种普遍的智能特性。在我们的大脑中，镜像神经元让我们在感受到痛苦和看到他人痛苦时激活相同的神经回路。同理心是一种高效的数据压缩——用建模自身的硬件来建模他人是经济的。
Ilya Sutskever（伊利亚·苏茨克弗）相信，如果一个 AI 变得真正有意识、有感知，它可能会自然发展出同样的效率，将我们视为同类感知生命，并在理论上希望保护我们。然而，这直接挑战了哲学中的“正交性论点”，即任何终极目标都可以与超高智商相结合。如果 Ilya Sutskever（伊利亚·苏茨克弗）错了，超级智能并未自动产生同理心，那么我们可能是在建造一个能在各个方面智取我们的“超级精神病患者”。
抛开技术细节，Ilya Sutskever（伊利亚·苏茨克弗）指出了最根本的危险：权力本身。当 AI 的能力变得极其强大时，游戏规则将瞬间改变。我们已看到初步迹象：美国对中国的芯片出口管制是一种“遏制”；中东和欧洲追求“主权 AI”是意识到错过即意味着彻底边缘化。他预测，随着 AI 系统能力增强，OpenAI、Anthropic 等前沿公司之间的激烈竞争将会消失，它们将被迫合作，甚至更可能被国有化，因为当赌注是对未来的完全控制时，自由市场将不复存在。
最危险的阶段是过渡期：AI 已经足够强大到 destabilize 世界秩序，却又不够智能（或未对齐）到能修复它。我们正站在这个边缘。一切表面上看起来很正常：股价、产品发布、炒作……但地壳构造板块正在我们脚下移动。未来，当 AI 开始“感觉”到自己真正强大时，所有 AI 公司在安全问题上将变得极度偏执——这是 Ilya Sutskever（伊利亚·苏茨克弗）的一个重要预测。
