Microsoft AI CEO Mustafa Suleyman（穆斯塔法·苏莱曼）：AI将创造无限丰饶，但我们必须学会“遏制”

撰文：Techub News 整理 导语 2025 年 9 月，微软AI业务CEO、DeepMind联合创始人 Mustafa Suleyman（穆斯塔法·苏莱曼）做客前《The Daily Show》主持人 Trevor Noah 的播客节目《What Now?》，进行了一场长达104分钟的深度对话。作为AI领域的先驱人物，Suleyman 从DeepMind的草创时期走到如今执掌微软AI战略的核心位置，他的思考轨迹在很大程度上映射了AI行业十余年来的演变。此次对话正值AI技术加速渗透社会各层面、引发广泛兴奋与担忧之际，Suleyman 不仅分享了其对技术前景的乐观预测，更以罕见的坦诚剖析了权力扩散、就业冲击、治理失效等“黑暗面”，为理解AI时代的机遇与挑战提供了关键视角。 摘要 AI是终极通用技术：Suleyman 认为AI是史上最强大的通用技术，其核心机制是学习信息的结构，并能将此能力扩展至文本、代码、图像乃至物理世界。 无限丰饶的未来：AI驱动的突破有望在未来20年内将能源成本降低100倍，进而大幅降低水、食物、医疗等基本生活成本，创造前所未有的物质丰饶。 “遏制”是最大挑战：当AI赋予每个人“零边际成本”的行动能力时，冲突风险将急剧上升。Suleyman 提出“遏制”理论，强调必须为强大技术的普及设置必要的“摩擦”，以维护和平与稳定。 人本超级智能是目标：Suleyman 的核心理念是发展“人本超级智能”，即AI必须始终将人类置于首位，服务于人类福祉，减少苦难。 就业将经历根本性重塑：大量常规认知工作将被AI取代，社会需要重新思考工作的意义，并建立税收再分配等机制，帮助人们过渡到更富创造性的生活。 从DeepMind到微软：一位AI先驱的演进 Mustafa Suleyman（穆斯塔法·苏莱曼）回顾了自己踏入AI领域的历程。2010年，当智能手机普及尚不足三年、云存储仍显笨拙时，他与 Demis Hassabis、Shane Legg 共同创立了DeepMind。当时，AI被主流学术界和大公司视为“纯科幻”。Suleyman 形容自己只是“极其幸运”，在25岁时有幸参与一个坚信“如果创造能真正理解人类的东西，就能极大改善人类境况”的使命。 他解释了AI工作的核心直觉：将物理世界转化为信息世界。AI算法本质上是一种学习信息结构（如像素与像素、单词与单词之间关系）的机制。通过海量数据和算力，模型能学会生成训练数据中未曾出现过的新样本。从2011年生成手写数字，到2013年识别YouTube视频中的猫，再到如今处理文本、代码和音频，同一套核心学习机制不断缩放，证明了其通用性。 Trevor Noah 敏锐地指出，AI从业者在用人类语言（如“理解”）描述AI时常常陷入纠结。Suleyman 认为这暴露了人类词汇的局限性。关键在于行为：如果AI模拟的理解或思考所产生的输出，与人类产生的输出同样令人印象深刻且无法区分，那么“引擎盖下”实际发生的是什么或许并不重要。我们是通过观察行为来建立信任和联系的。 人本超级智能：价值观必须先行 当被问及“你究竟想构建什么”时，Suleyman 的答案与许多同行截然不同。他不在乎是否要建造“上帝计算机”或单纯的工具。他的驱动力是“创造减少人类苦难的技术”，关心的是与人类利益真正一致的“人本超级智能”。 这意味着每一项新发明，在整体上都必须通过一个考验：它是否真的提高了人类福祉，减少了人类苦难，让世界变得更美好？Suleyman 承认这听起来像是理所当然的，但历史上不乏带来净伤害的发明。因此，即使在微软这样市值巨大的公司里，也必须从价值观和关切出发。“人本超级智能”意味着始终将人类放在首位，服务于人类。尽管未来几十年关于其具体含义会有大量辩论，但他认为这是正确的起点。 Trevor Noah 观察到Suleyman身上同时存在着技术构建者的乐观与哲学家的审慎，甚至忧患意识。Suleyman 将其部分归因于自己的英式思维，更习惯于思考事物 cynical、阴暗的一面。他认为，真相存在于诚实地审视所有方面。如果偏向某一方，感觉就不真实。这种“分裂的头脑”恰恰是真相在个体身上的体现。公司、政府乃至每个公民，都必须面对技术加速变革带来的巨大收益和副作用这一现实。 无限丰饶：能源成本百年内或降百倍 Suleyman 做出了一个大胆预测：在AI的推动下，未来20年内，能源成本有望降低100倍。AI作为模式匹配系统，能够发现比人类更高效的方法来组合新材料。这可能体现在电网管理和分配、发明用于存储可再生能源的新型合成电池材料、或制造每平方英寸能捕获更多能量的高效光伏电池等领域。 他描绘了能源极度廉价后带来的连锁反应：我们可以随时随地淡化海水，从而在干旱地区获得清洁水源并种植作物，缓解因气候变化导致的移民潮；我们可以在从未有过的地方运行空调；基本生活成本将大幅下降。到2045年，能源便宜10到100倍，地球上每个人都能获得这些技术及其好处，生活将变得更轻松、更廉价。 针对AI自身耗水耗能巨大的批评，Suleyman 没有回避。他承认AI消耗大量资源，包括稀有金属、电力和水。微软的整个计算舰队已几乎100%使用可再生能源（拥有约33吉瓦的可再生能源，相比之下整个西雅图年消耗约2吉瓦）。虽然冷却系统消耗大量水，但许多数据中心已承担全生命周期责任，对水进行清洁和回收。他认为，从净收益角度看，AI带来的益处证明了其环境成本是合理的，就像我们不会因为汽车使用铝和橡胶而很快放弃它一样。关键在于，新技术必须从一开始就采用新标准：使用可再生能源，实现水的清洁循环。 “遏制”理论：当行动变得零成本 Suleyman 在访谈中重点阐述了他新书中的核心概念——“遏制”。他指出，当前的趋势是权力正在被微型化、集中化，同时变得廉价且广泛可用。这里的“权力”指的是做出准确预测的能力——预测文本如何展开、生成什么代码、给定视频后如何延展下一帧。智能本质上就是在给定新环境时做出准确预测。 未来的AI将不仅仅是模式识别系统，而是能够打电话、写邮件、使用API、编写任意代码、操作Excel、像项目经理一样为你行事的“智能体”。这将赋予每个个体和企业巨大的杠杆，因为生产成本将趋近于零边际成本。一方面，这美妙绝伦：从创意产生到原型制作甚至大规模实现的周期将缩至近乎为零。另一方面，这也意味着任何人都能更容易地执行其愿景，无论这愿景是建设性的还是破坏性的。 Suleyman 指出，社交媒体时代是“任何人皆可广播”，AI时代则是“任何人皆可行动”。当持不同观点（无论是宗教、政治还是意识形态）的每个人都能一键执行其“疯狂想法”，并产生切实影响现实世界的行动时，冲突将不可避免急剧增加。与此同时，本应垄断权力以维持和平的民族国家却在弱化、挣扎。因此，“遏制”是一种信念：完全不受监管、以零边际成本扩散的权力，对和平与稳定构成根本性风险。必须适度、恰当地限制超级强大系统的扩散，因为它们将产生“一对多”的冲击效应。 Trevor Noah 精准总结：“如果某事难以做到，只有少数人能为之，则易于监管；如果某事易于做到，人人皆可为之，则监管变得无限困难。” Suleyman 完全赞同，并强调“摩擦”对于维持和平与稳定至关重要。没有摩擦、执行成本为零、规模可近乎即时达成，这样的环境将滋生巨大混乱。 就业重塑：从“工作”到“人生意义”的探索 Suleyman 明确预测，未来20年内我们将面临大规模的工作岗位流失。在初期，AI主要起辅助作用，为人类节省时间，如同“认知劳动者的仿生腿”。但许多现有工作是常规化、可预测的“认知体力劳动”，机器将在这方面变得非常擅长。引入这些技术对公司、股东、政府的益处显而易见，因此我们会看到快速的岗位替代。 他认为政府的强力介入至关重要，需要建立税收再分配机制。税收不仅是财政收入工具，更是激励或限制特定技术在某些行业引入的调节工具，旨在为人们在这场转型中创造其他机会。 Suleyman 进一步挑战了“社会的功能是为人们创造有意义的工作”这一观念。他认为，许多人从事着极其乏味的工作，如果有了收入保障，他们会很乐意放弃。他梦想一个人们能真正自由选择所做之事的世界。他经常问别人：“如果你不必为收入担心，你会用生命做什么？”答案往往充满启发。 他展望，如果技术发展得当，到2045年，AI产生的总价值（通过能源、医疗、食品系统等成本降低）可能足以支撑社会找到资助人们度过一生的方式。这将释放巨大的创造力，但同时也会带来深刻的存在主义问题：我是谁？我为何在此？我想做什么？这些问题的答案只能在真实的社区联结、物理世界体验中找到。他认为这将是美丽的未来，但也承认，对于许多临近生存边缘的人来说，这种思考是一种奢侈。 技术、治理与人类的未来 作为AI领域的“OG”（元老），Suleyman 分享了他对AI发展阶段的看法。人类在生物上难以应对规模化和指数级变化。他从2010年至2020年的“指数曲线平坦部分”获得了对“倍增”的实践直觉。直到最近几次倍增，能力才出现巨大飞跃。例如，四年前的语言模型还难以准确预测下一个单词。 基于此，他预测了下一波能力：当前的模型仍是“单次预测引擎”，而人类和许多动物是持续产生准确预测流的引擎。让AI具备在极长时间跨度上做出完美、一致预测的能力，并无根本性的算法或数据障碍。届时，AI不仅能调用其对世界的知识，还能利用其与你及他人互动的“持久状态”记忆来预测事物如何展开。这种能力本身就足以令人震撼，他预计明年年底就可能实现。 针对AI是否应被赋予权利或被认为有意识的讨论，Suleyman 持坚决反对态度，认为这是完全的拟人化，荒谬至极。他担忧的是，有些人会故意设计具有操纵性、说服性、拥有自身动机和独立意志的AI。他强调，“人本超级智能”意味着创造服务于你的技术，而不是相反。他无法为领域内其他人创造的东西负责，但这正是需要集体行动解决的难题。 面对深度伪造和信息失真可能导致的“黑暗时代”（人们因无法辨别真伪而拒绝相信一切），Suleyman 区分了“怀疑”与“ cynicism”。怀疑是健康的哲学立场，用于提出难题并面对答案的现实；而 cynicism 则会导致消极无为。我们必须为我们所构建的东西负责，并对制造劣质产品的人追究责任、施加压力。 最后，Suleyman 分享了他早年参与创立“穆斯林青年帮助热线”的经历。那是在9/11事件后伊斯兰恐惧症上升的背景下，一个由年轻人领导、为年轻人服务的多元化社区。这段经历教会他社区、韧性、尊重和同理心的力量，也影响了他后来创办Inflection AI并开发 empathetic AI “Pi”的取向。他认为，创造让人感到被倾听和理解的技术，让生活值得过下去，这也是他今天仍在努力的方向。 在Suleyman看来，未来几十年可能是人类历史上最具生产力的时期，有望将人们从工作中解放出来，并显著提升生活质量。然而，这些技术本身不会自动带来净好处，好处来自于我们作为一个物种在自我治理方面的进步。集体的责任在于：不逃避黑暗，正视真实存在的风险，同时秉持乐观、信心、希望以及与人类联结、团结的立场前行。