撰文：Techub News 整理

导语

在AI浪潮席卷全球的今天，微软AI首席执行官 Mustafa Suleyman（穆斯塔法·苏莱曼）——这位DeepMind联合创始人、Inflection AI前CEO——无疑是这个时代最富洞察力的观察者与建造者之一。近期，他做客知名播客《Moonshots》，与主持人 Peter H. Diamandis 等人进行了一场长达84分钟的深度对谈。

这场对话之所以重要，在于苏莱曼的身份和他所处的关键时刻。作为一家市值数万亿美元科技巨头的AI业务掌舵人，他领导着微软向“智能体与同伴”世界的战略转型。他亲历了AI从实验室“指数曲线平坦期”到如今爆发性增长的完整周期，这让他对技术的演进规律、商业化的挑战以及伦理安全的紧迫性有着超乎常人的理解。在“竞赛论”甚嚣尘上之际，他的观点为我们提供了一个冷静且长远的视角。

摘要

苏莱曼认为“AGI竞赛”是个错误比喻，AI发展不是零和游戏，技术和知识会同时、多尺度地扩散。
微软的战略核心是从“操作系统、搜索引擎、应用”的世界，全面转向“智能体与同伴”的新范式。
他提出了“现代图灵测试”概念：用经济指标（如用10万美元赚取100万美元）来衡量AI的自主能力，并预测未来几年内AI智能体将达到这一标准。
AI安全的“遏制”与“对齐”同样重要，甚至是前提；他坚决反对赋予AI法律人格，认为必须为AI的行动划定明确边界。
未来十年，真正的挑战不在于基准测试的竞争，而在于为即将到来的、“人类史上最狂野的转型”奠定正确的基础。

从“应用”到“同伴”：微软的范式转型

Mustafa Suleyman（穆斯塔法·苏莱曼）在微软的角色远不止是管理一个AI研究团队。他统领着微软的AI战略、Copilot产品线以及搜索业务，其核心使命是推动整个公司完成一场根本性的范式转移。“我们正在经历的转变，是从一个由操作系统、搜索引擎、应用和浏览器构成的世界，转向一个由智能体和同伴构成的世界。”苏莱曼如此描述这场变革。在他看来，所有这些传统的用户界面都将被融入一种对话式的、具备自主行动能力的智能体形式中。

未来的模型将如同一个24小时在线的真实助手，拥有用户的所有上下文信息，能够执行任何任务。苏莱曼以软件开发为例：正如过去程序员使用第三方库，现在他们将使用AI辅助编码工具来调试和生成大量代码，这让他们效率更高、更准确、更快。这一轨迹是可预测的，即从用户界面到AI智能体的转变。微软在见证了公司五十年历史中多次技术转型后，对确保自身处于最佳位置来管理这次转型“超级警觉”。

当被问及微软是否会像其他玩家一样提供开源（或开放访问）AI模型时，苏莱曼表现出开放的态度。他承认，微软本质上是“平台的平台”，其DNA就是提供核心基础设施让他人变得更高效。因此，微软将始终拥有大量赋能他人的API。然而，API本身的形式也将发生变化，它与智能体本身的界限可能变得模糊。“也许五年后，我们的主要业务是销售能够执行特定任务的智能体，这些智能体附带可靠性、安全性、保障性和信任度的认证。”苏莱曼认为，这正是微软的优势所在——其长期建立的信任和安全形象，有时甚至是其“稳重”和“审慎”的特质，对企业和政府客户而言是一种资产。

亲历指数：从“调空调”到AGI前夜

苏莱曼在DeepMind的经历，让他对技术发展的“指数曲线”有着切身的体会。他回忆了2010年至2020年那段“指数平坦期”，那时尽管有AlphaGo这样的惊人成果，但在现实世界中真正成功的商业应用寥寥无几。“很多研发投入，看似离AGI很近，结果只是在调整数据中心的空调。”他笑着说。但这恰恰是指数的特点：它在你不经意间悄然逼近。

他分享了一些里程碑式的“惊喜时刻”。2012年左右，DeepMind的早期员工生成了第一个可证明不在训练集中的手写数字“7”，这让他惊叹于模型竟然学会了“7”的概念。更大的震撼来自Google内部的LaMDA项目。当大多数大语言模型还停留在单次问答时，LaMDA团队率先将其推向真正的对话，那些涌现出的对话行为让他感到“ breathtaking”（令人窒息）。正是意识到这个“关键时刻”的到来，他和团队的一些成员才决定离开谷歌，去创建Character.ai、Adept等公司。

更让他感到意外的，或许还不是能力的飞跃，而是成本的急剧下降。“我完全错了，”苏莱曼坦言，“我没料到世界上最大的公司会开源耗资数十亿美元训练的模型。”他回忆了创立Inflection AI时筹集15亿美元、打造当时最大H100集群的雄心，但随后ChatGPT的发布和Llama等开源模型的涌现，彻底改变了游戏规则。“成本”成为关键。这也引发了他对未来的思考：智能作为一种服务，其边际成本将趋于零，这将产生巨大的劳动力替代效应，同时也可能带来通缩效应，因为消费品的成本也会下降。但这种“劳动市场受影响”与“服务成本下降”之间的过渡期错配，可能会带来十年甚至二十年的不稳定。

定义未来：现代图灵测试与超级智能愿景

苏莱曼在2022年提出了“现代图灵测试”的概念。他认为，随着计算和数据规模的持续扩大，AI的发展将从“识别”（第一波浪潮）到“生成”（当前阶段），再到“在每一步都完美生成”，而这连续的完美生成序列将产生辅助性和自主性的行动。这些行动将表现为一个智能知识工作者、项目经理、战略家或初创公司创始人。

那么，如何衡量这种性能？不应再仅仅依靠学术和理论基准测试，而应通过其在经济和工作场所中的能力来衡量。经济的衡量标准是美元和美分。因此，他提出的“现代图灵测试”是：哪一个模型能够以10万美元的启动资金，将其变成100万美元？即实现10倍的投资回报。苏莱曼认为，这是一个衡量性能和能力的绝佳标准。他调侃道，图灵测试已经在不知不觉中被跨越，但并没有人为此举办盛大的庆祝。

对于备受关注的AGI和超级智能（ASI），苏莱曼认为这只是曲线上的不同点。超级智能大致可以理解为“一个能够在所有任务上超越所有人类总和，并具有随时间自我改进能力的AI”。至于时间表，他拒绝给出具体预测，但强调“无论是一年、十年还是二十年，现在优先考虑安全和对齐问题都超级紧迫”。他警告说，我们必须现在就声明要构建什么样的超级智能，是否要容忍创造一个我们可证明无法对齐、无法控制，并且在设计上就在所有任务和人类理解力上超越人类的实体？“你怎么控制一个你不理解的东西？”他反问道。

针对赋予AI法律人格的可能性，苏莱曼划出了一条清晰的红线。“我认为这绝对不在考虑范围内。”他给出的理由是生存逻辑：一个成本远低于人类、可以无限复制、拥有完美记忆、并能暂停自身计算的物种，将与作为生物物种的人类产生固有的资源竞争。在数学上可证明这类实体能与我们的价值观对齐、并能被遏制之前，考虑赋予其权利是极其危险的。他自称是一个“物种主义者”和“人文主义者”，道德上的当务之急是保护我们已知存在的、可能因新事物的引入而遭受巨大痛苦的全体有意识生命。

安全第一：在遏制与对齐之间走钢丝

在苏莱曼看来，AI安全包含两个关键部分：对齐（AI是否分享我们的价值观？它会对我们好吗？）和遏制（我们能否正式限制其行动能力并为它划定边界？）。他认为，在解决对齐问题之前，必须先解决遏制问题。“遏制并不是非黑即白的，”他解释说，“我们一直在遏制事物。”他以汽车引擎为例，强大的力量被安全地“遏制”和“对齐”，围绕它有从安全带、车辆排放到限速等一整套监管体系。对于AI，虽然复杂程度高出多个数量级，但这并不意味着我们不应该努力限制其边界。

他并不主张由一个极权主义的“智能单体”来统治一切，而是认为需要设计一套具有制衡机制的嵌套式、分层级的体系，类似于军队或警察系统的组织方式。苏莱曼认为，如今的企业比过去（如石油、烟草时代）更清楚，其社会运营许可要求它们为外部性承担更多责任，这是一种商业激励。同时，当超级智能的潜在威胁成为全人类（包括中国等主要力量）共同面临的生存问题时，理性的自保需求将驱动国际合作。

当被问及各大科技巨头在安全上的投入是否足够时，苏莱曼坦言“还不够”。他提到了拜登政府时期的白宫自愿承诺，以及他们推动的一些原则，如按算力规模进行审计、共享一定比例的安全投入等。他认为现在是加大这些投资的真正时机，尽管目前行业仍处于“超级竞争模式”。

对于AI的“拟人化”，苏莱曼持谨慎但务实的态度。他认为设计领域始终以人类状态为参照点，让AI的语调流畅、具备文化意识是设计的内在部分。但他强调，必须划清界限，创建明确区分、始终披露其为AI的实体和头像，并围绕它们设定边界，这是安全和必要的组成部分。

加速未来：AI赋能科学与下一波创新

苏莱曼对AI在科学领域的突破感到兴奋。他指出，AI已经学会了逻辑推理路径的抽象本质，并能将其应用到许多其他领域，这种能力与模型固有的“幻觉/创造力”本能（更像插值法）相结合，是解决新数学定理或科学挑战的“致命组合”。这与人类一直以来的工作方式类似。他预测，未来几年，AI将极大加速科学假设的生成，而验证假设将成为瓶颈。因此，能允许AI 24/7不间断运行实验、从自然界挖掘数据的物理系统（自动化实验室）将变得至关重要。

在应用层面，他特别看好AI在医疗和教育领域的变革。微软已经发布了名为“MAI诊断协调器”的研究，在罕见病诊断上比顶级专家准确率高数倍，且能减少不必要的检测成本。他引用哈佛和斯坦福的研究指出，AI单独诊断的准确性已超过人类医生。在教育方面，他认为AI导师将能够提供高度个性化的学习路径和互动测验，彻底改变知识获取的方式。

对于当下的AI创业与投资热潮，苏莱曼也给出了冷静的观察。他承认目前少数顶尖人才的稀缺和资本的过度充裕推高了估值。但他也指出，如果未来几年真的发生“智能爆炸”，格局将变得难以预测。不过，将前沿研究转化为产品、建立分销渠道等传统商业机制仍然适用。他建议年轻人不要放弃大学教育，计算机科学和哲学仍是长期的基础，而大学提供的社交和探索空间是宝贵的特权。

最后，当被问及普通人如何加速AI赋能科学的进程时，苏莱曼给出了一个简单而深刻的建议：更多地使用AI。无论是Copilot还是其他优秀的AI工具，你使用得越多，它就越了解你，变得越像你的“第二大脑”，从而更好地辅助你的探索和思考。在人与AI的协同进化中，我们每个人都是加速未来的一部分。