撰文：Techub News 整理
导语
人工智能的浪潮正以前所未有的速度重塑世界，但随之而来的风险与机遇同样巨大。2025 年 10 月，一场由 MMA Chennai 主办的读书会聚焦了 DeepMind 联合创始人、现任微软 AI CEO Mustafa Suleyman（穆斯塔法·苏莱曼）的著作《The Coming Wave: AI, Power and Our Future》。本次活动邀请了三位资深技术专家——Srinivasan Ramprasad、Venkat Rangam Thirumalai 和 John Jayakumar——围绕书中的核心议题展开深度讨论。苏莱曼作为 AI 领域的顶尖实践者与思考者，其观点不仅关乎技术本身，更涉及地缘政治、社会伦理和人类未来的宏大命题。这场对话旨在厘清这股“即将到来的浪潮”的本质，并探讨我们应如何负责任地驾驭它。
摘要
- 苏莱曼认为，以 AI 和合成生物学为代表的“全能技术”具有超进化、非对称影响和难以遏制等特征，其颠覆性堪比工业革命。
- 技术失控的风险包括生物安全威胁、自主战争、国家不稳定、监控国家崛起、大规模错误信息以及 AI 与人类价值观的错位。
- “遏制”技术风险比促进其增长更为紧迫，需要安全研究、审计监督、国际协作、文化政治参与等多管齐下，但难度极大。
- 对于印度等国家，关键在于利用规模优势，在引导全球 AI 治理的同时，加速自身创新，避免在技术浪潮中掉队。
- 个人与组织应积极拥抱 AI 作为增强工具，建立治理框架，进行员工培训，以提升潜力而非恐惧替代。
“全能技术”浪潮：颠覆与失控的双刃剑
讨论伊始，主持人 Srinivasan Ramprasad 提纲挈领地介绍了《The Coming Wave》的核心论点。他指出，苏莱曼将人工智能和合成生物学等新兴技术视为一股“浪潮”，其核心特征在于“全能性”和“超进化”。与历史上单一用途的技术不同，这些技术能够渗透到医疗、安全、材料、能源等几乎所有领域。更关键的是，它们的迭代速度极快，版本间的差距不是线性增长，而是指数级跃迁，持续学习并试图模拟甚至超越人类智能。
Ramprasad 总结道，如果说过去的机器人替代的是重复性体力劳动，那么 AI 瞄准的将是“智力劳动”。从秘书工作到部分专业分析，许多白领岗位面临自动化风险。此外，技术的民主化带来了“非对称影响”：即便是一个小团体或个人，一旦掌握先进技术，也可能对国家安全构成巨大威胁。随着 AI 系统决策自主性增强，人类监督的“能见度”却在降低，这使“遏制”技术负面影响变得异常困难。
Venkat Rangam Thirumalai 补充了作者 Mustafa Suleyman（穆斯塔法·苏莱曼）的背景，以强调其观点的分量。苏莱曼不仅是 DeepMind 的联合创始人（其 AlphaFold 项目解决了蛋白质折叠难题，获得了诺贝尔奖级别的认可），还创立了 Inflection AI，并现任微软 AI CEO。他并非危言耸听的理论家，而是身处技术创造最前沿的实践者。Venkat 提醒，尽管书中涉及大量地缘政治和生物威胁的讨论可能显得悲观，但苏莱曼本质上是一位乐观主义者，其警告旨在唤起警觉，而非宣扬末日。
无法“删除”的幽灵：技术遏制的现实困境
一个核心问题随即被抛出：面对如此迅猛发展的技术，我们是否还有可能“遏制”其潜在危险？三位专家的共识是：从技术扩散的角度看，“遏制”已近乎不可能。
Venkat Rangam Thirumalai 形象地比喻：“猫已经出了袋子。”如今，强大的 AI 模型甚至可以在最新的 iPhone 上本地运行。互联网的特性决定了信息和技术“一旦放出，永不遗忘”。他以美国试图通过限制英伟达高端芯片出口来延缓中国 AI 发展为例，指出这种“遏制”尝试在实际操作中困难重重，因为知识和模型早已在全球流通。
然而，不可能不等于不作为。John Jayakumar 提出了一个更细致的观点：遏制技术本身与遏制其滥用是两回事。他以 OpenAI 训练 GPT-4 耗资上亿美元，而中国的 DeepSeek 仅用数百万美元就达到相近性能为例，说明技术门槛正在迅速降低，未来个人研究者也可能训练出强大模型。因此，完全封锁技术不现实。但我们可以学习核技术、航空、医药等领域的监管经验，为技术的应用设置“护栏”和治理框架。例如，欧盟强制统一手机充电接口（USB-C）的成功案例表明，强有力的监管能够塑造产业标准。
Venkat 进一步指出，问题的复杂性在于技术不分国界，而传统的“国家-公民”契约（公民纳税效忠，国家提供安全）在 AI 全球威胁面前可能失效。如果一个国家无法保护其公民免受跨国 AI 攻击，这种契约的基础就会动摇。因此，AI 治理必须是全球性的努力。他提到，微软、谷歌等巨头已牵头成立联盟，共享 AI 训练过程中出现的“故障”或“越轨”信息，这种在竞争对手间的信息共享是迈向全球协作的积极一步。
人性之镜：AI 的伦理、偏见与责任归属
当算法开始做出越来越多影响人类生活的决策时，如何确保同理心、伦理和问责制不被湮没？这成为讨论的另一个焦点。
John Jayakumar 用生动的案例敲响了警钟。他提到“蓝鲸挑战”游戏诱导青少年自杀的悲剧，警示了恶意算法可能带来的直接伤害。更令人不安的是，如今通过 Eleven Labs 这样的消费级工具，任何人都可以轻易克隆一个真实的人声，生成以假乱真的音频。他分享了近期社交媒体上流传的一个故事：在中国，一个嵌入 AI 的玩具损坏后，孩子如同失去家人般崩溃哭泣。这凸显了对公众，尤其是下一代，进行 AI 素养教育的紧迫性——必须让人们理解 AI 是什么、不是什么，以及它的能力与局限。
Venkat Rangam Thirumalai 则从技术构建的源头分析了伦理问题。他强调，真正构建核心 AI 模型的研究者全球仅有数万人，他们是决定 AI“价值观”的关键少数。这些系统从互联网数据中学习，而互联网内容反映了人类的偏见与不完美，因此 AI 模型天生就带有偏见和种族主义倾向。指望存在一个完全中立、无偏见的 AI 是不现实的。关键在于，开发团队必须有意识地将人类价值观注入训练过程。他提到了 OpenAI 等公司雇佣大量人力进行“强化学习人类反馈”，让人类评估 AI 输出的好坏，以此引导模型向善。然而，这个过程本身也充满挑战，例如在肯尼亚的内容审核员就曾因处理极端恶劣的 AI 生成内容而遭受心理创伤。
关于 AI 是否可能具备“意识”或超越人类，Venkat 援引了苏莱曼2025 年 10 月的观点：这根本不是当前应该关注的核心问题。沉迷于科幻式的担忧会分散注意力。真正的焦点应该是如何确保 AI 系统服务于人类，解决人类社会的实际问题，而不是纠结于它们是否成为了新的生命形式。
印度的机遇与责任：在浪潮中航行而非旁观
对于印度这样一个拥有庞大人口、活跃科技生态和独特地缘位置的国家，这场技术浪潮意味着什么？又该如何应对？
John Jayakumar 指出，印度已经在全球科技治理中扮演重要角色，例如在 G20 等场合推动 AI 监管框架。作为最大的民主国家之一，印度有责任也有能力引导全球 AI 治理向负责任的方向发展。但同时，印度也必须加速自身的技术创新，与美国和中国竞争。目前印度尚未出现自己的“DeepSeek 时刻”，需要努力追赶，确保不在新一轮技术革命中落后。
Venkat Rangam Thirumalai 的态度更为乐观和策略性。他认为印度不必为“错过”前几波技术浪潮而懊悔，正如印度跳过了固定电话直接进入移动时代，跳过了黑白电视直接拥抱彩色和卫星电视一样。“即将到来的浪潮”意味着机会窗口始终存在。他以印度空间研究组织（ISRO）为例，说明后来者同样可以成为太空领域的 formidable player（强大参与者）。印度的优势在于其庞大的用户基数，这本身就是一种力量。当 Perplexity AI 向 Airtel 用户免费提供服务时，正是看中了印度市场的数据和影响力。印度用户的使用习惯、提出的问题（涉及本土文化、神话、多语言需求），将反过来塑造全球 AI 模型的发展方向。Venkat 呼吁，印度社会应更积极地用自己的语言与 AI 互动，用实际行动向科技巨头证明支持印度语言是值得投入的，从而将消费力转化为技术发展的影响力。
企业与人：拥抱 AI 增强，而非恐惧替代
最后，讨论落到企业和个人如何具体应对 AI 浪潮。针对初创公司如何设计合乎伦理的 AI 系统，Venkat 直言这是一个难题，连苏莱曼也未给出简单答案。但他强调，企业的首要目标是创造利润，而透明和伦理最终会成为可持续竞争优势。在竞争加剧的环境中，只有赢得用户信任的公司才能长久生存。
John Jayakumar 则为企业提供了更具操作性的“AI 优先”转型路线图。他观察到许多企业虽然焦虑，却因业务繁忙而不知从何入手。他的建议是：不要试图一次性改造整个组织。首先，任命一位“AI 倡导者”，并选择一个部门（如 HR）作为试点。为该团队配备工具、提供培训，并严格衡量转型前后的效率与投资回报。如果试点成功，再制定路线图推广至全公司。至关重要的是，公司必须建立清晰的 AI 治理框架，并向全体员工公开，阐明 AI 战略、使用原则和“可为与不可为”。这能有效缓解员工“AI 是否会取代我”的恐惧。John 重申了一个关键理念：AI 本身不支付 EMI（分期贷款），也不供养家庭，但善于使用 AI 的人将远比拒绝 AI 的人强大。企业不采用 AI，就会被采用 AI 的竞争对手甩开。
在创意领域，John 以自身经历展示了 AI 如何成为强大的协作工具。他与女儿利用 DALL-E 2 创作艺术书籍的经历证明，AI 能极大拓展创意边界、加速创作流程。但核心在于，AI 是创意的放大器，而非创造力的源泉。拥有 Runway（视频生成）、Suno（音乐生成）等工具，并不能让一个缺乏创意的人变成大师。工具降低了技术门槛，但真正的叙事能力、审美判断和情感共鸣依然来自人类。
展望未来，Venkat 探讨了“后智能手机时代”与“环境智能”的可能性。他以 Meta 的 Ray-Ban 智能眼镜为例，指出 AI 将使设备更无缝地融入环境，提供隐形且强大的辅助。然而，技术能否普及不仅取决于其能力，还深受文化习惯和社会接受度的影响。多年前谷歌眼镜的失败，部分原因就在于社会对随时录像的反感。因此，下一代交互形态的诞生，将是技术可行性与社会文化共同作用的结果。
整场讨论在一种审慎乐观的氛围中结束。Mustafa Suleyman（穆斯塔法·苏莱曼）描绘的“浪潮”既带来前所未有的生产力提升和问题解决能力（如蛋白质折叠研究取得突破性进展），也伴随着失控的严峻风险。专家们一致认为，完全遏制技术发展已不现实，但通过全球协作、行业自律、伦理嵌入和公众教育，人类仍有可能引导这股巨浪，使其造福而非毁灭。对于每个个体和组织而言，主动学习、积极应用、并参与塑造负责任的 AI 未来，是应对这个不确定时代的唯一出路。
