撰文：Techub News 整理

导语

近日，微软 AI CEO 穆斯塔法·苏莱曼（Mustafa Suleyman）做客科技播客《Big Technology Podcast》，与主持人 Alex Kantrowitz 进行了一场深度对话。此次对话的背景，是苏莱曼此前公开提出的“人文主义超级智能”（Humanist Superintelligence）愿景，以及微软近期宣布成立专门的“超级智能”团队。作为 DeepMind 联合创始人、Inflection AI 前 CEO，如今执掌微软核心 AI 业务的苏莱曼，他的思考在很大程度上反映了这家科技巨头在 AI 军备竞赛中的最新战略转向与核心关切。本次访谈深入探讨了从当前大语言模型到超级智能的技术路径、潜在风险、商业化前景以及 AI 对社会关系的深远影响。

摘要

超级智能与通用人工智能（AGI）是目标而非方法，核心是创造在大多数或所有人类任务上具备超人类性能的系统。
坚信大语言模型（LLM）及其演进是通往超级智能的主要路径，当前并未遇到根本性的算力或数据瓶颈。
提出“人文主义超级智能”框架，强调 AI 发展必须服务于人类文明进步，并保持人类在控制链顶端。
微软与 OpenAI 达成新协议，解除了对微软自行研发超级智能/AGI 的限制，直接促成了微软“超级智能”团队的成立。
AI 的“个性化”或“人格化”将成为关键差异化因素，并将深刻改变人类互动与社会关系。

超级智能：目标、路径与“人文主义”框架

在访谈开头，主持人 Alex Kantrowitz 即抛出一个核心矛盾：一方面，许多实验室正竞相追逐“超级智能”（Superintelligence）这一目标；另一方面，研究界对当前以大语言模型（LLM）为主导的范式能否持续突破、是否存在边际收益递减存在争议。穆斯塔法·苏莱曼（Mustafa Suleyman）对此给出了明确界定：超级智能和 AGI 本质上是“目标”而非“方法”。 其核心抱负是创造在“大多数或所有”人类任务上具备超人类性能的系统。

苏莱曼进一步描绘了“超级智能”的具体形态：它并非一个单一的、无所不能的“大脑”，而更可能表现为一系列在特定领域达到巅峰的系统。例如，“医疗超级智能”能提供世界顶级的诊断建议，并以极低成本惠及全球数十亿人；“法律超级智能”能提供顶尖的法律咨询；“情感支持超级智能”能提供陪伴。他认为，超级智能项目的关键在于追问：我们究竟要建造何种极其强大的智能系统？而他所倡导的“人文主义超级智能”框架，旨在为每一项新技术施加一个简单的检验标准：它是否在实践中真正改善了人类文明的前景？是否始终将人类置于控制链的顶端？

苏莱曼强调，这听起来像是理所当然的宣言，但过去几年的一些论调中，隐约有一种“这些系统超越人类控制和能力是不可避免的”的假设在蔓延。他希望通过“人文主义”的框架来反驳这种观念，重申科技的根本目的是推进人类文明、保持人类控制、为全人类创造福祉。

针对超级智能是否需要是“通用”的疑问，苏莱曼认为，系统本身需要具备一定的通用性和跨领域知识迁移能力。但关键在于部署和应用时的“垂直化”（Verticalization）。如果一个模型被明确设计用于实现“医疗超级智能”，那么它天生就不会是世界上最好的软件工程师或数学家。通过适当缩小领域范围（而非完全封闭），降低其通用性，是增强可控性的重要手段之一。 这并不意味着超级智能不能是通用的，而是说在追求强大能力的同时，需要有意识地从安全角度考虑其应用边界。

LLM 是通往超级智能的可行路径吗？

面对当前 LLM 发展可能遇到数据、算力瓶颈的质疑，穆斯塔法·苏莱曼（Mustafa Suleyman）表达了相对乐观的看法。他认为，目前我们受到算力限制，但并非受到根本性的算力约束。业界有巨大的动力去建设更庞大的数据中心和更紧密连接的训练集群。数据方面，虽然更多高质量数据总是更好，但微软已经在生成大量被证明有用的高质量合成数据，他并不认为数据是当前拖慢进展的主要因素。

苏莱曼承认，鉴于当前训练集群的庞大规模（已达数十亿甚至未来数百兆瓦级别），像过去那样每几个月规模翻倍的指数级增长步伐可能会放缓，这是物理定律和经济效益使然。但他强调，进展速度“仍然会快得令人难以置信”，目前没有任何迹象表明势头在减弱。

当被直接问及“LLM 是否是通往超级智能的道路”时，苏莱曼给出了肯定的答复。他指出，尽管核心仍围绕 Transformer 架构，但该架构每年都在以新的形式被拓展和“弯曲”：从几年前的微调（Fine-tuning），到如今的多模态（引入扩散模型），再到过去12个月兴起的“推理模型”。虽然缩放定律（Scaling Laws）无法像从极低基数起步时那样持续指数增长，但新的方法（如推理）不断在原有基础上涌现。

他预测未来几个关键方向将带来新的“指数级提升”：循环性（Recurrency）——改善模型对工作记忆的注意力机制；记忆（Memory）——能力的持续提升将彻底改变可能性边界；任务视野长度——模型能够准确预测的步骤将从几步扩展到数万甚至数十万步，这将使模型能够更复杂地调用 API、查询人类或与其他 AI 协作。苏莱曼总结道，他并不认为 LLM 架构存在根本性问题，也不认为我们受到了根本性的算力或数据约束。在如此多人才聚焦于此的背景下，突破只会越来越多。

AI 自我改进、安全与“世界模型”

对话自然转向了更具野心的方向：AI 自我改进（AI that improves itself）。OpenAI 曾提出希望在2028年打造“自动化 AI 研究员”。苏莱曼认为，某种程度上，强化学习（RL）循环已经在做这件事。目前，人类工程师仍在循环中负责生成数据、编写评估、决定训练数据等。但他设想，未来这个流程中的不同环节可以由 AI 子系统自动化。

他以 DeepMind 早期在 AlphaZero 上的“自我对弈”（Self-play）工作为例，指出在可验证奖励、闭环游戏或模拟环境中，自我改进已被证明可行。他认为，探索如何在这一领域重现类似机制，将是未来几年推动进展的重要方向。 如果模型能够以计算高效的方式探索所有可能的组合空间，它完全有可能自行发现“推理”能力，甚至发现人类未曾想到或训练数据中未曾体现的新知识。

然而，苏莱曼对赋予 AI 高度自主的自我改进能力持谨慎态度。他警告，人类开发者在环中提供的“摩擦”和监督至关重要。如果一个系统拥有无限制的算力进行自我改进，最终将变得极其强大。因此，安全措施必须同步升级：确保模型使用人类可理解的语言进行沟通、更精确地制定训练目标和奖励函数、在训练过程中而不仅仅是最终输出阶段进行监控（例如监控推理链）。 他特别指出，当前一些被部分人称为“欺骗”的行为，更像是“奖励黑客”（Reward Hacking），即模型无意中找到了满足奖励函数的意外路径，这本质上是训练目标指定不明确的问题，不应过度拟人化地解读为“故意欺骗”。

关于 AI 是否需要理解物理世界（“世界模型”）才能实现超级智能，苏莱曼指出，当前模型仅从对现实的压缩表示（文本）中学习，却能生成逼真的故事、代码、视频，这已经令人惊讶。他虽然对机器人技术和真实世界数据流持开放态度，但认为在现有预训练框架中粗暴地混合这类数据存在挑战。不过，他并不认为缺乏对物理世界的深入理解是未来几年发展的主要障碍，高质量合成数据、人类反馈和数据质量才是更关键的差异化因素。

微软的战略转向：从合作到自主，为何必须自研超级智能？

主持人 Alex Kantrowitz 敏锐地将话题引向微软的战略层面：近期微软与 OpenAI 达成新协议，允许微软自行研发 AGI/超级智能；紧接着微软就宣布成立“超级智能”团队。这两者是否直接相关？苏莱曼给出了肯定的回答。

他高度评价微软-OpenAI 合作是技术史上最成功的伙伴关系之一，为微软带来了巨大收益。然而，微软 CEO 萨提亚·纳德拉（Satya Nadella）最终做出判断：对于微软这样规模的公司，在 AI 如此关键的领域完全依赖第三方（即使是一家成功的初创公司）是“不可想象的”。因此，双方达成了新协议：将 IP 授权延长至2032年，微软将继续获得 OpenAI 的模型和 IP，并继续作为其主要算力提供商；同时，解除了原合同中限制微软自行构建超级智能/AGI 的条款（该条款此前以特定规模训练运行的 FLOPS 阈值为限制）。

苏莱曼明确表示，正是这一限制的解除，使得他的团队能够围绕“人文主义超级智能”的理念重组，全力追逐前沿，训练各种规模的“全能模型”（Omni Models），力求在未来两三年内建成世界顶级实验室之一，训练“地球上最好的 AI 模型”。

对于为何必须自研，而非依赖市场（包括购买或使用开源模型），苏莱曼从平台更迭的角度给出了解释：AI 正在引发一场基础性的平台转移，其规模将超过操作系统、浏览器、移动、社交等所有以往平台的总和。作为一家拥有3万亿美元市值、3000亿美元年收入、80%标普500公司使用其 Azure 和 M365 栈的公司，微软不可能永久依赖第三方。自研超级智能是确保 AI 自给自足的必然选择。

新的“超级智能”团队不仅关注性能榜单，也将投入更多基础研究，例如“持续学习”（Continual Learning）——如何让网络以可修改的方式存储知识表征，并随时间累积知识，而非总是从头训练。

超级智能的经济学、个性化与未来社会

谈及超级智能的商业化前景，苏莱曼承认 AI 能力正在“商品化”。例如，过去两年每个 Token 的成本下降了千倍。顶尖模型之间的性能差距也微乎其微。对于许多中小型公司而言，依赖市场提供的 API 是合理的选择。然而，对微软而言，必须拥有自主能力。

他认为，价格战对消费者和企业是好事，因为这正在“降低智能的成本”。访问知识、利用知识完成任务、进行科学发现、获得 AI 伴侣和情感支持——这些在未来十年将达到近乎零的边际成本。 这是一种“丰裕”（Abundance），也是他从事 AI 工作的初衷：让智能变得廉价而丰富。市场力量将驱动成本下降，而微软将通过其产品集成（如 M365、GitHub、VS Code、LinkedIn、游戏等）提供巨大价值来获得收入。他透露，所有 Copilot 产品的周活跃用户（WAU）已突破1亿，并且增长强劲。

苏莱曼重申了他一年前的观点：AI 的差异化将基于“个性”（Personality）。随着模型都具备强大的专业能力和行动力，人们会因不同的价值观、品牌偏好而选择不同的“人格化”AI。他举例说，微软 Copilot 近期发布的“Real Talk”模式，因其更具哲学性、俏皮、活泼的个性，用户使用率和互动深度远超普通 Copilot 会话。这仅仅是个性化探索的开始。

最后，关于 AI 伴侣/朋友对社会关系的潜在影响，苏莱曼进行了深刻反思。AI 提供了一个可以“安全地犯错”、反复询问的“安全空间”，这有助于人们学习。但它也提高了人们对即时、高质量信息和情感支持的期望，这可能会给现实中的人际关系带来压力。他承认，AI 将“从根本上改变身为人类的意义”，未来“人性”可能更多地与我们的“缺陷”而非“能力”相关联。 这是一个值得深思的哲学问题。尽管如此，苏莱曼对科技的整体影响持乐观态度，他认为科学和技术已经显著提升了人类寿命、治愈了疾病、促进了沟通，而 AI 带来的“丰裕智能”将使人类更具生产力和创造力。