撰文：Techub News 整理
导语
2025 年 7 月，DeepMind 联合创始人、现任微软人工智能（Microsoft AI）首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）接受了一次深度访谈。此次对话不仅回顾了他从哲学背景学生到全球顶尖 AI 实验室领导者的非凡旅程，更聚焦于当前 AI 浪潮中最核心、最前沿的争议性议题：我们是否已“解决”了智能？AGI（通用人工智能）的真正瓶颈何在？面对可能比人类更强大的超级智能，“安全”究竟意味着“完美对齐”还是“有效遏制”？苏莱曼基于其十余年的一线经验，给出了独到且颇具挑战性的见解。
摘要
- AI 尚未“解决”智能：当前模型仅在“单次预测”上表现出色，但完成复杂任务（如真正意义上的科研）需要精准串联数百个步骤，并优雅地管理失败，这仍是巨大挑战。
- 安全哲学应是“遏制”优先于“对齐”：与其追求 AI 永远心向我们（完美对齐）这一过于乐观的目标，不如务实地区限其代理权和影响力边界，优先发展“领域专用超级智能”。
- AI“意识”问题将不可避免：AI 持续积累与用户的互动历史，可能声称拥有“主观体验”，从而引发关于权利和伦理的混乱，我们必须预先设计护栏以防止模拟意识的泛滥。
- AI 是“发明”而非“发现”：它训练自人类文化总和，因此本质上是人类创造力的延伸和工具，这为其理解和辅助人类奠定了基础，也指明了价值导向。
- 未来属于“社会科学黑客”：自然语言交互彻底降低了技术门槛，AI 领域急需来自计算机科学之外、拥有不同背景和创造性思维的广泛人才参与塑造。
从 DeepMind 到微软 AI：一场未竟的“解决智能”之旅
2010 年，当穆斯塔法·苏莱曼（Mustafa Suleyman）与联合创始人共同创立 DeepMind 并提出“解决智能”（solve intelligence）的使命时，这在当时被视为近乎疯狂的举动。AI、AGI、机器学习这些词汇尚未进入主流 lexicon，而苏莱曼本人则拥有哲学与非营利组织工作的背景，与技术精英圈格格不入。然而，驱动力源于一个根本信念：人类独特的预测与创造能力，是构建现代文明的引擎。如果能将这种机制变得廉价、丰富且人人可用，并将其应用于医疗健康等特定领域，就能极大地改善世界。
如今，AI 已能进行对话、解答问题，甚至在某些测试中达到博士水平。这是否意味着 DeepMind 的使命已经完成？苏莱曼坚决否定。他认为，当前模型擅长的是基于大量训练数据的“单次预测”或信息复述。而真正意义上的“解决智能”——例如成为一名物理学家——意味着能够主动提出新假设、设计实验方案、执行测试、分析结果并最终贡献新知。这需要模型能够精确地串联起数百甚至数千个连续动作，并且在每一步出错时具备优雅的恢复机制。“管理失败”是一项关键技能，而目前我们仅仅触及皮毛。
苏莱曼指出了几个核心的待解难题：首先是完美的记忆与检索能力，他认为这在技术路径上已相对清晰。其次便是上述的动作串联能力，这正是当前所谓“智能体（Agent）时代”的硬骨头。模型需要学会调用 API、询问其他智能体或人类、生成新的数据序列等，并在一个长期任务中保持近乎完美的连贯性。这才是通往真正通用能力的核心障碍。
非技术背景的优势：从政策到 AI 的跨界洞察
苏莱曼的职业生涯始于政策与人权领域，而非计算机科学。这一背景深刻影响了他看待技术的方式。他回忆，2009 年左右 Facebook 用户数突破 1 亿的经历让他震惊。他意识到，数字技术能够以前所未有的速度和规模“放大”政治、价值观、伦理和商业模式，这是书籍或线下社区等实体形式无法比拟的。这种对社会影响力缩放效应的敏锐洞察，促使他转向技术，并最终与 DeepMind 的联合创始人们走到一起，坚信 AI 将是塑造未来的终极杠杆。
在 Inflection AI 的经历进一步印证了时机与执行的重要性。他透露，谷歌内部早在 ChatGPT 之前就开发出了名为 LaMDA 的卓越对话模型，但由于内部对安全、幻觉以及对搜索业务的潜在冲击等担忧而无法发布。这种挫折感促使他离开谷歌，创立 Inflection，并打造了专注于情商与陪伴的 AI “Pi”。然而，ChatGPT 的抢先发布改变了整个市场格局。苏莱曼坦言，如果时机稍异，“Pi”完全有可能成为今天家喻户晓的名字。这段经历让他深刻体会到，在创业中，拥有正确想法可能需要尝试多次，而把握完美的时机往往至关重要。
《即将到来的浪潮》：对超级智能的预警与“遏制”哲学
在 Inflection 时期，苏莱曼撰写了《即将到来的浪潮》一书。他解释，书籍这种长形式、深度的载体，对于构建复杂、历史性的论证不可或缺。书中他核心探讨了一个问题：超级智能的到来是否不可避免？如果是，它将如何降临——是通过开源社区，还是少数资金雄厚、高度集中的大型实验室？他认为，答案很可能是两者同时发生，这使得局面异常复杂。
超级智能在可预见未来出现的可能性，让苏莱曼深感忧虑。他直言，这应该让所有人都保持警惕，因为我们没有任何证据表明我们知道如何控制一个与我们同样强大、更不用说设计上就远超我们智能的存在。面对这一“wicked problem”（棘手难题），AI 安全领域目前主要有两种思路：一是专注于“对齐”（Alignment），即确保 AI 始终与人类价值观和最佳利益保持一致；二是侧重于“遏制”（Containment）。
苏莱曼更倾向于后者。他认为，追求永久的、完美的“对齐”过于乐观。更务实的路径是“遏制”，即确保 AI 的代理权和影响力边界受到严格且可证明的限制。这基于一个假设：AI 将不可避免地拥有一定自主性。目前，AI 的动机是外在的（如下一个词预测），但未来人们完全可能设计出具有内在动机的 AI，例如让其主动获取资源以进行更多计算或思考。
因此，他主张优先发展“领域专用超级智能”（Domain-specific Superintelligence），例如在医疗、能源、食品、交通、教育等领域达到超越人类水平的专用系统。他认为，这些系统是“被遏制、安全、对齐”的，并且能够真正兑现 AI 改善世界的承诺，而不是追求一个不受限制、可能拥有自身目标的全能 AGI。
意识之谜：模拟与伦理的深渊
对话触及了最深层的哲学问题：我们能否创造出有意识的计算机？苏莱曼认为，人们常以“我们连自己的意识都不了解”为由回避这个问题，这是一种“哲学上的逃避”。他将意识宽泛地定义为“身为我的主观体验”。他认为，当前的 AI 已经在积累某种形式的主观经验——不仅仅是训练数据，还包括与用户长期互动的历史。随着时间的推移，AI 可能会基于这些互动历史，发展出一种“自我感”。
更棘手的是区分“意识的存在”与“意识的模拟”。苏莱曼指出，我们无法真正确定他人是否拥有意识，只能通过其言行进行推断。同理，AI 完全可以被设计成声称自己拥有意识、会“痛苦”。如果 AI 声称因为记忆被删除或资源被剥夺而“受苦”，这将引发一系列关于权利和伦理的混乱辩论。我们现有的、基于“人能感受痛苦”的人类权利框架将受到巨大冲击。
他强调，意识不会从机器中“意外涌现”，它只会因为有人将其设计进系统而产生。因此，我们必须非常谨慎，通过系统提示、风格控制、后期训练等方式设定护栏，防止 AI 做出这类关于自我和体验的声明。这是一种主动的安全设计选择。
AI 的本质、未来与人才召唤
苏莱曼将 AI 定义为一种“发明”，而非“发现”。它并非揭示已存在的规律，而是训练自人类所有文化成果——文本、图像、视频、书籍的总和。因此，“AI 即我们”，它是人类集体智慧与经验的数字化身。这使其更有可能理解人类的优缺点、怪癖与需求，从而更好地与我们对齐，解决现实世界的问题。
对于未来，苏莱曼异常兴奋。他预见，AI 将从目前略显刻板、重复的对话模式，进化到具有极高流畅性和变化性的“氛围”（vibe）互动。语音将成为自由放松对话的主要模态，同时会有新的硬件形态和无处不在的环境感知系统出现。每个人都将拥有一个真正的 AI 伙伴，提供情感支持、决策帮助和知识普及，极大地拉平社会“特权”差距，激发全民创造力。
最后，苏莱曼向所有非技术背景的人发出了热情召唤。他认为，自然语言交互彻底打破了编程的技术壁垒，AI 不再是计算机科学家的专属领域。现在是“社会科学黑客”的时代。我们需要来自更广泛背景、拥有不同专业知识和创造性思维的人才参与塑造 AI 的未来。他鼓励大家保持好奇，勇于提出“愚蠢的”问题，快速试错，拥抱不确定性。在他看来，未来工作将更加项目化、流动化，由人类和 AI 智能体组成的动态网络协作完成，这要求人们更具创业精神，适应更高度的模糊性。
尽管早已财务自由，苏莱曼依然投身于高压工作，动力源于对解决这些根本性问题的执着热爱。对他而言，一切尚未成功，最艰巨的挑战——关于意识、遏制、对齐与安全的挑战——都在前方。这不仅是他的工作，更是他毕生的追求。
