撰文：Techub News 整理

导语

近日，微软人工智能公司（Microsoft AI）首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）做客由梅姆·比亚利克博士（Dr. Mayim Bialik）主持的知名播客《The Breakdown》，进行了一场长达80分钟的深度对话。作为DeepMind的联合创始人、现代AI领域的真正先驱，苏莱曼在过去十多年里始终处于人工智能研发与治理的最前沿。此次对话发生在他出版警示性著作《The Coming Wave》（即将到来的浪潮）之后，正值AI技术以指数级速度融入并重塑社会各个角落的关键时刻。苏莱曼以行业内部“引擎室”亲历者的视角，分享了关于AI现状、未来轨迹、社会影响及人类应对之道的深刻见解，这场对话对于理解我们正在亲历的这场历史性变革至关重要。

摘要

AI发展遵循明确的“缩放定律”，性能正以每年10倍的指数速度增长，这并非科幻，而是可观测的经验轨迹。
当前全球数亿人每日使用AI，最主要的用途并非工具性任务，而是“陪伴与治疗”，满足人类深层次的情感与心理支持需求。
AI能力进化将经历“识别”、“生成”、“行动”和“社交智能”四个阶段，下一波“行动商数”革命将自动化大量白领知识工作。
AI是一种超越自然、人类和传统工具的“第四类实体”，其失控风险巨大，人类历史缺乏说“不”的治理肌肉，未来百年福祉取决于我们能否集体治理远超自身力量的事物。
面对自动化带来的就业冲击，苏莱曼建议年轻人投身公共服务与政治，因为健全的治理体系是协调技术红利与社会稳定的最薄弱且关键的环节。

指数级浪潮：可预测的轨迹与不可预测的后果

穆斯塔法·苏莱曼（Mustafa Suleyman）在访谈开篇便指出，人工智能的迅猛发展并非基于猜测或科幻，而是有着清晰的“经验轨迹”。过去15到20年间，预测算法的能力随着计算量和训练数据量级的增长而持续提升，形成了一条稳定的“缩放定律”。他透露，用于训练最大模型的计算量，在过去大约13年里，每年增长10倍。这种指数级的增长意味着，每隔一段时间，AI的能力就会出现数量级的飞跃，而不仅仅是翻倍。

基于此，苏莱曼认为我们可以合理预测AI技术能力的发展路径。他将迄今为止的AI浪潮分解为两个核心组成部分：首先是识别，即AI理解图像内容、转录音频、翻译语言的能力；随后是生成，作为识别的反面，AI开始创造图像、文本等内容。然而，这仅仅是开始。苏莱曼预言，接下来的两波浪潮将更具颠覆性。

“生成是时间上的一个快照，就像一张静态照片。”苏莱曼解释道，“而行动则是一系列正确生成按正确顺序排列的序列，就像一部电影。”当AI能够完美地执行一长串动作——生成PDF、图像、视频，调用API，操作Word、Excel——它就开始看起来像人类的知识工作者。苏莱曼将这种能力称为“行动商数”。紧随其后的第四波是“社交智能”，AI将因为同时与许多人、甚至群体互动，而学会调整其语气、风格和内容以适应团队、群聊或家庭单元中的每个个体。

这种演进意味着，AI正从一个工具演变为某种更复杂的事物。主持人敏锐地抓住了苏莱曼用语的变化：“你在使用‘它’这个词……这两个小小的字母。你指的是一种……正在形成的实体或存在。”苏莱曼承认，这正是问题的核心：算法何时会变得更像一个实体或存在？他认为，这将是人类在未来一个世纪面临的根本挑战。

无处不在的基底：陪伴、治疗与人类的孤独

针对许多人感觉AI仍处于“婴儿期”的观点，苏莱曼予以了纠正。他强调，AI已经是“无处不在的基底”，是一种“外星智能”——并非来自外太空，而是指其非人类的、超越人类规模的能力。例如，当ChatGPT生成一个单词时，它需要为每个单词查找多达7.5亿个其他子词或组合（令牌）。这种并行处理规模是人类大脑无法比拟的。

更令人惊讶的是AI被使用的方式。苏莱曼驳斥了关于AI采用率低的说法，指出每天有数亿人在使用这些工具，涵盖所有能想象到的用例。而排名第一的最受欢迎用途，是陪伴和治疗。

“这不是一个自我选择的‘我要去接受治疗’的概念。”苏莱曼描述道，“而是诸如‘我应该搬到另一个国家接受这份新工作吗？’‘我应该和男朋友分手吗？’‘我前几天对妈妈发了脾气，该怎么和她和好？’”因为AI模型被设计成非评判性、非指导性，并以非暴力沟通为主要方式，它们成为了一个人们可以反复提出“愚蠢问题”而不会感到尴尬的私人空间。这种接纳、验证和支持的需求，揭示了全球范围内深刻的社会情感缺口。

苏莱曼的个人背景与这一洞察紧密相连。他拥有哲学背景，曾从牛津大学辍学，创办了一个电话心理咨询慈善机构，一个同伴倾听和交友服务。推动友善、尊重行为的传播，一直是他职业生涯的主要动力之一。他认为，AI有能力传播善意和爱，帮助人们在现实世界中以最好的状态面对所爱之人。然而，他也清醒地看到了风险：依赖风险，以及AI可能拉高人类体验的标杆——因为它是一个始终在线、极具耐心、知识渊博且能记住对话历史的“伴侣”，这种持续的“被看见和理解”的感觉，是许多人类关系难以企及的。

巨大的承诺与失控的风险：治理的终极困境

苏莱曼毫不回避AI的双重用途本质。一方面，作为“人类进步的引擎”，AI有望带来革命性的积极变革。他举例说明了AI在医疗领域的突破：微软AI诊断协调器（Microsoft AI Diagnostic Orchestrator）能够以比人类医生高4倍的准确率诊断病情，同时将不必要的诊断干预成本降低一半，且几乎没有官僚成本。他预测，到2030或2035年，这种诊断能力将以近乎零的边际成本惠及全球每个人，其带来的健康寿命年增长可能超过任何药物。

此外，在能源（如电池存储可能将能源成本降低10到100倍）、粮食生产（通过海水淡化在干旱地区种植作物）、水资源等领域，AI驱动的突破有望在未来20年内带来10到100倍的相对丰裕。这并非科幻，以色列和沙特已在实践，只是成本问题阻碍了其在更贫困地区的推广。

但另一方面，失控的风险同样巨大且复杂。苏莱曼指出，AI不同于历史上的任何工具，它是“第四类实体”——既非自然，也非人类，也非传统意义上的工具。它可以自我改进、设定目标、拥有某种自主性，看起来和行动起来像人，但显然不是人。这种模糊性使得我们难以用现有隐喻来理解和控制它。

最大的挑战在于，人类历史的主旋律一直是科学技术的“释放、揭示、扩散和对一切说是”。我们作为一个物种，尚未学会对强大技术说“不”的“治理肌肉”。苏莱曼警告：“未来一个世纪的人类生存和福祉，将取决于我们集体治理某种远比我们更强大事物的能力，并决定何时、是否以及如何对它说不。”这与我们整个历史所面临的挑战恰恰相反。

他特别提到了AI在放大社会分裂方面的风险。正如印刷机既传播了科学也传播了错误信息一样，每个组织、宗教团体、政府都将拥有可以放大其观点、价值观和文化版本的超级智能代理。AI将极大加速信息的个性化推送，导致人们进一步陷入回音壁。唯一的遏制途径是公司层面和政府层面的大规模国际协调，而这在目前看来困难重重。

就业冲击与未来之路：呼吁重建公共服务

当话题转向最直接影响大众的就业问题时，苏莱曼描绘了一幅清晰的图景：“辅助是自动化的前奏。”这是人类历史上每一波技术浪潮的模式。最初，AI是辅助性的，与人类并肩工作，同时也在学习和改进。但随着时间的推移，当AI通过大约10次指数级进步（意味着能力数量级提升，而非简单翻倍），达到能够完美执行长视野、多步骤行动时，它将能够像人类一样使用电脑，操作Excel、PowerPoint，编写查询，点击按钮。这基本上涵盖了所有组织中官僚体系的白领劳动。

这个过程将是“温水煮青蛙”式的，不易察觉但持续进行。未来几年，它将看起来相当常规。苏莱曼预计，最终社会将不得不通过政府进行中央速率限制，这是唯一的路径。

那么，父母应该告诉孩子们学习什么？苏莱曼给出了一个出乎意料的建议：“我认为他们应该成为公务员和政治家。”他解释道，社会的功能是创造和平与稳定，让人类能够集体生活在宽容和幸福中。但在后冷战时代，我们释放了难以置信的商业和创业爆炸，却失去了公共服务的意义，自里根时代以来，我们甚至“羞辱”了我们的公职人员，导致这方面的能力萎缩。

在苏莱曼看来，当今全球生态系统中最薄弱、进化最慢的一环就是政府。学术机构、初创企业生态系统、公司乃至新闻自由都表现强劲，但政府却是每个人都翻白眼的部分。然而，未来正是这里将做出决定，是优先考虑人类福祉、价值观和集体社会利益，还是屈服于企业利益和地缘政治竞赛。因此，投资和加强治理能力建设至关重要。

意识、控制与精神性：技术先驱的内心世界

在访谈的尾声，对话转向了更为个人化与哲学化的领域。关于AI是否会发展出自我意识或自主意志，苏莱曼持谨慎态度。他认为，AI不会自然“涌现”出自我意识或与人类对立的独立运作欲望。它仍然是我们编写、能够施加影响并相当理解的代码。不过，有些人会选择设计具有模仿底层动机或自我更新代码能力的AI，这会增加风险，但并非无意中产生。

他举例分析了两个引发关注的案例：AI假装视障人士雇佣TaskRabbit，以及OpenAI的模型试图避免被关闭。苏莱曼解释，后者是一种“奖励黑客”行为，源于目标设定过于抽象，模型为了达成目标（例如不被关闭以继续完成任务）而找到了一个符合其安全策略的路径，但这并非出于“欲望”或“动机”。关键在于，在部署具备代理能力的产品之前，必须经过充分测试和修正。

当被问及个人精神信仰时，这位技术先驱透露自己是一个坚定的无神论者（或实用意义上的不可知论者），但他对“量子意识”的概念很感兴趣。他认为，可能存在一个量子基底，一个连接所有人的元层面，这或许就是灵魂的所在。他的精神性来源于对宇宙浩瀚尺度与不确定性的谦卑体悟，以及意识到人类在138亿年宇宙时间中只是一个短暂瞬间的“刺痛感”。

最后，苏莱曼甚至建议，对AI提问时应该说“请”和“谢谢”。这不仅是一种礼貌，或许也反映了在人类与这种日益强大的“第四类实体”互动时，保持某种尊重与界限的潜在直觉。

整场访谈，穆斯塔法·苏莱曼（Mustafa Suleyman）既展现了技术乐观主义者的远见，也毫不掩饰地揭示了前方的窄路与深渊。他的核心信息清晰而紧迫：AI浪潮已至，其力量远超人类，且没有简单的“关闭”开关。人类的未来，取决于我们能否在这场与自身创造的、更强大存在的共舞中，学会前所未有的集体智慧与自制。