Loading...
Loading...
Demis Hassabis（德米斯·哈萨比斯）谈未来 5-10 年的 AGI 及其通向“根本性富足”之路撰文：Techub News 整理
导语
在人工智能浪潮席卷全球的当下，作为该领域最前沿的探索者之一，Google DeepMind 的联合创始人兼首席执行官 Demis Hassabis（德米斯·哈萨比斯）的每一次发声都备受关注。2025 年 6 月，他接受了 WIRED “The Big Interview” 栏目的深度对话。在这场约20分钟的访谈中，哈萨比斯不仅对通用人工智能（AGI）的到来时间给出了明确的概率预测，更围绕 AGI 的定义、当前 AI 系统的局限、地缘政治竞争、AI 安全、未来工作形态以及 AGI 可能带来的“根本性富足”社会等核心议题，展开了兼具技术理性与宏大愿景的阐述。作为将“解决智能，然后用智能解决一切问题”奉为使命的科学家和企业家，他的观点为我们理解 AI 发展的当前坐标与未来轨迹提供了关键视角。
摘要
预测 AGI 有 50% 的可能在未来 5-10 年内实现，但强调当前系统在推理、规划、记忆和真正创造力方面仍有明显缺陷。
指出 AI 发展面临两大核心风险：恶意行为者滥用通用 AI 技术，以及技术本身随着能力增强带来的安全隐患。
认为短期内 AI 将对工作产生“赋能”效应，提升个体生产力，长期则可能重塑就业结构，但护理等需要人类共情的工作难以被取代。
展望若 AGI 发展顺利，人类将进入一个拥有近乎无限清洁能源、解决疾病与资源短缺的“根本性富足”时代，但这需要社会心态从零和博弈转向非零和博弈。
呼吁国际协作与灵活监管，并认为在未知风险面前，科学方法和持续的投入是克服技术挑战的关键。
AGI：五年之约与缺失的能力拼图
访谈始于对 AGI 时间表的探讨。Demis Hassabis（德米斯·哈萨比斯）重申了 DeepMind 自创立之初便秉持的愿景：解决智能，然后用智能解决其他一切问题。回顾这趟约20年的征程，他表示公司“基本完全按计划进行”。当被问及这是否意味着距离人们通常所说的 AGI 仅有五年时，哈萨比斯给出了一个更精确的概率估算：“我认为在接下来的五到十年内，我们有50%的机会拥有我们所定义的 AGI。”
这个预测相较于某些更为激进的同行（如声称两三年内实现）显得相对审慎。哈萨比斯解释，业界目前对 AGI 的定义本身存在争论，时间预测也因此各异。他援引联合创始人兼首席科学家 Shane Legg 早期对 AGI 的定义，强调其核心在于系统能够展现出人类所拥有的全部认知能力。以人类心智为参照，是因为它是我们已知的唯一通用智能存在的证明。
那么，我们离这个目标还有多远？哈萨比斯明确指出当前 AI 系统存在明显的“能力拼图缺失”。无论是大型语言模型还是聊天机器人，在推理、规划、记忆和真正的发明创造力方面尚有不足。“我不认为今天的系统能够进行真正的发明、真正的创造，或是提出新的科学假设。”他举例说明，尽管已有系统（如他们的 AlphaFold）能在国际数学奥林匹克竞赛中达到金牌水准，但同样的系统有时却会在高中数学甚至数单词字母数量上出错。这种在不同领域表现极不一致的现象，恰恰说明现有系统尚未实现完全的泛化能力。
关于 AGI 降临的形式，哈萨比斯认为它更可能是一个渐进的转变，而非突变的阶跃函数。即使技术上实现了 AGI，其对社会和物理世界（如工厂、机器人）的全面影响仍需更长时间，可能长达十年以上才能充分显现。
地缘竞速、安全风险与监管困境
当话题转向激烈的全球 AI 竞赛时，主持人提到了 Eric Schmidt（埃里克·施密特）的“二进制”论调，即若某个国家（如中国）率先获得 AGI，将导致无法追赶的永久性领先优势。哈萨比斯对此表示，这是一个未知数，属于所谓的“硬起飞”情景：如果 AGI 系统能够快速自我改进、自我编码，那么微小的领先优势可能迅速变为天堑。但他也指出，还存在其他可能性，即自我改进的速度并未那么快，那么时间上的接近就不会造成巨大差异。
然而，他着重强调了其中的地缘政治意涵：“正在构建的系统，会带有设计者价值观及其所处文化规范的印记。”因此，谁领先、在何处开展这些项目，不仅关乎商业和国家竞争，也紧密关联着安全考量。他坦言当前领域处于“非常激烈的时期”，资源大量涌入，压力巨大。
哈萨比斯剖白了自己最为担忧的两大风险：一是恶意行为者（无论是个人还是流氓国家）将通用 AI 技术用于有害目的；二是 AI 技术本身的风险——随着其能力越来越强、自主性越来越高，能否确保防护措施足够安全且无法被绕过。这引出了对监管的讨论。当被问及是否仍像几年前一些公司那样呼吁监管时，哈萨比斯给出了肯定的回答，但同时强调了复杂性和国际性。他认为，考虑到地缘政治叠加效应和当今世界的复杂性，“明智的、灵活的监管”至关重要，且这种监管需要能随着研究认知的深入而动态调整。
他进一步指出，真正的挑战在于国际合作。“如果你在一个地区限制它，这对于这些系统为世界和社会构建的整体安全性并无真正助益。”鉴于 AI 是数字系统且将影响所有人，国际间的协作与共识（至少在某些基本原则层面）是更大的难题，但也是必需的。
当被问及是否会因为竞争压力而不得不放弃安全护栏时，哈萨比斯表示，西方主要实验室的负责人和顶尖研究人员之间经常沟通。问题在于，目前缺乏清晰的定义来确定“那个临界点”何时到来。他认为今天的系统尽管令人印象深刻，但也存在诸多缺陷，尚不构成任何生存性风险。风险目前仍是理论上的，但问题在于“未知数太多”——我们不知道风险来临的速度和程度。对此，他持技术乐观态度：“当存在如此多未知数时，我乐观地认为我们能克服它们。”他相信只要有足够的时间、关怀和深思熟虑，运用科学方法，技术挑战是可以解决的，反倒是地缘政治问题可能更为棘手。
但他也清醒地意识到：“我们时间不多了。”因此，DeepMind 正在向安全和可控性研究（如机械可解释性）投入更多资源，同时也认为需要展开更多的社会讨论，探讨机构建设、治理模式以及如何达成国际协议。
赋能、转型与“根本性富足”的未来
谈及 AI 对工作和市场的影响，哈萨比斯引用了经济学家的观察，认为目前尚未看到根本性变化，更多是补充和赋能，例如 AlphaFold 极大地加速了科学家的工作。展望未来五到十年，他预计工作岗位将发生巨变，但历史经验表明，新技术往往会催生新的、通常更好的工作岗位，正如互联网和移动技术带来的变革。他预计未来几年将是“黄金时代”，强大的工具将极大提升个人生产力，甚至在创造力方面让人变得“有点超乎寻常”。
对于 AGI 可能替代所有人类工作的担忧，哈萨比斯认为，即使 AGI 具备所有人类能力，仍有许多事情我们不会想让机器去做。他举了医生和护士的例子：诊断工作或许可以由 AI 辅助甚至替代，但护理工作所需的人类共情和关怀则难以被机器人取代。他建议当下的学生和毕业生积极拥抱这些新系统，深入学习 STEM 和编程以理解其原理，并精通微调、系统提示等技能，从而成为能最大化利用这些工具的“超级生产者”。
展望更远的未来（20-30年后），如果一切顺利，哈萨比斯描绘了一个激动人心的图景：“我们应该处在一个我称之为‘根本性富足’的时代。” AGI 将帮助解决一些社会面临的“根节点”问题，例如治愈疾病、显著延长健康寿命、发现新能源（如优化电池、室温超导体、核聚变）。
他针对主持人关于当前社会分配不公、协作困难的质疑，给出了一个具体例子：水资源获取。海水淡化技术已存在，但因其高能耗而仅限于富裕国家。如果 AGI 推动实现近乎零成本的清洁能源（如核聚变），那么水资源获取问题将迎刃而解，因水资源控制引发的冲突也将大幅减少。类似地，近乎无限的能源也能简化火箭燃料的制造（从海水中分离氢和氧）。
哈萨比斯认为，AGI 将从技术上提供实现“根本性富足”的能力，但他希望这能进一步推动社会心态从零和博弈转向非零和博弈。他承认，如何公平分配“根本性富足”的成果仍是一个挑战，需要哲学家和社会科学家的参与。他甚至预测，在 AGI 之后的时代，经济学本身、价值与货币的概念都可能发生改变，呼吁经济学家更深入地研究相关的新经济理论。
最后，针对社会上对 AI 的担忧和抵触情绪（类似工业革命时期的反弹），哈萨比斯表示理解，并认为这场变革至少与工业革命同等规模，甚至更大。但他用自己的热情作为回应：他构建 AI 的核心驱动力是推动科学和医学进步，解决疾病、气候、能源等重大社会挑战。他举出 AlphaFold（诺贝尔奖级别的突破）及其在药物发现上的应用潜力为例，强调如果人类有能力却不去追求这些解决方案，反而是不道德的。在他看来，面对众多社会挑战，如果没有像 AI 这样革命性的技术即将到来提供助力，他才会对未来感到更加担忧。
Fei-Fei Li（李飞飞）：AGI 的核心是空间智能，AI 发展的首要原则是尊重人类能动性撰文：Techub News 整理
导语
2025 年 1 月，斯坦福大学“以人为本人工智能研究院”（HAI）联合主任、被誉为“AI 教母”的 Fei-Fei Li（李飞飞）做客知名投资人 Reid Hoffman（里德·霍夫曼）的播客节目《Possible》，进行了一场深度对谈。在这场对话中，李飞飞回顾了其从开创 ImageNet 数据集到如今领导 World Labs 的学术生涯，并分享了其对人工智能，特别是通用人工智能（AGI）本质与未来的深刻洞见。在当前 AI 技术飞速发展、AGI 讨论众声喧哗的背景下，李飞飞从一位奠基性研究者和人本主义倡导者的双重视角出发，提供了兼具技术远见与人文关怀的思考。
摘要
AGI 的“另一半”：空间智能：真正的智能不仅在于“说”（语言），更在于“看”和“做”。理解和作用于三维物理与数字世界的“空间智能”，是实现更完整 AGI 的关键。
从 ImageNet 到 World Labs 的演进：ImageNet 是为 2D 图像贴标签的“婴儿步”，而 World Labs 的目标是解锁三维世界的空间智能，实现物理与数字世界的无缝交互。
AI 发展的核心原则：尊重人类：必须将 AI 视为人类使用的工具，尊重人的能动性（Agency）和追求健康、生产力与被尊重的根本需求，这是技术发展的基石。
构建积极 AI 生态的三大支柱：AI 治理应基于科学而非科幻；监管重点应放在具体应用场景而非上游研发；需要公私部门协作，共同投资于好奇心驱动的创新和全民 AI 教育。
从 ImageNet 到 World Labs：追寻智能的完整拼图
李飞飞的 AI 生涯起点，源于一个关于数据重要性的深刻洞察。2006 年前后，她在利用机器学习算法理解图像中的物体时，发现整个领域存在一个普遍性问题：研究者们过度关注模型本身，却严重忽视了数据的规模、多样性与复杂性。她意识到，模型能力与数据质量必须匹配，尤其是对于神经网络这类高容量模型。这一洞见直接催生了 ImageNet——一个大规模、多样化的视觉数据库，它通过竞赛等形式极大地推动了深度学习在计算机视觉领域的复兴。
然而，ImageNet 在李飞飞看来，只是通向更宏大目标的一个“婴儿步”。“人类的智能，一半在于我们用语言沟通、组织知识，”她解释道，“但另一半同样深刻，在于我们‘做事’的能力——无论是烹饪煎蛋、徒步旅行，还是与朋友共处。” 这种“做事”的能力，根植于我们对所生活的三维世界的感知、理解、推理和行动能力，她称之为“空间智能”。
ImageNet 处理的是 2D 图像，而 2D 图像只是 3D 世界的投影。因此，李飞飞当前领导的 World Labs，目标正是迈出那“决定性的一步”：解锁空间智能。她指出，空间智能不仅关乎物理世界（如更换轮胎、进行手术），也涵盖数字世界（如虚拟环境）。未来的 AI 将成为桥梁，模糊物理与数字的界限。例如，当汽车爆胎时，人们或许能通过智能眼镜或手机，在 AI 应用的视觉引导和对话协助下，轻松完成换胎。这种技术将深刻改变我们与现实世界互动的方式。
超越语言模型：空间智能是“自然的语言”
当被问及“世界模型”与当前炙手可热的大语言模型（LLMs）有何区别时，李飞飞给出了一个清晰的比喻：LLMs 的基本单元是词汇，关乎“说”；而世界模型的基本单元是像素或体素（voxels），关乎“看”和“做”。
“语言是人类的语言，”她说，“而 3D 是自然的语言。” 她希望 AI 算法最终能让人们以更直观的方式，与像素构成的世界（无论是虚拟还是物理的）进行交互。这指向了一个超越文本交互的、更具沉浸感和行动力的 AI 未来。
李飞飞引用社会生物学家 Edward O. Wilson 的名言：“我们拥有旧石器时代的情感、中世纪的制度，以及神一样的技术，这极其危险。” 但她对此持乐观的逆转态度：人类有能力创造“神一样的技术”，来改进我们“中世纪的制度”，并提升或引导我们“旧石器时代的情感”，将其转化为创造力、生产力和善意。关键在于我们如何建造和运用技术。
人本 AI 的核心：尊重能动性，赋能每个人
作为“以人为本人工智能研究院”（HAI）的联合创始人，李飞飞阐述了其 AI 伦理与治理观的核心原则。首要且最重要的，是尊重人类的能动性（Human Agency）。
她批评了当前公共讨论中一种危险的叙事倾向：过于频繁地将 AI 作为句子的主语，仿佛 AI 自身具有独立意志。“我们会说‘AI 将治愈癌症’，甚至我自己有时也这么说，”她坦言，“但事实是，‘人类将利用 AI 来治愈癌症’。更危险的说法是‘AI 将夺走你的工作’。” 她强调，这种话语剥夺了人类的主体角色。技术真正的巨大潜力在于创造机会、增加就业、赋能人类能动性。这是必须坚守的第一原则。
第二个基本原则是尊重人类对健康、生产力以及成为受尊重社会成员的根本追求。无论 AI 如何发展，都不能忽视这些基本人性需求，否则将是危险且适得其反的。
基于这些原则，李飞飞认为，AI 治理应聚焦于以下几点：
基于科学，而非科幻：关于 AI 导致人类灭绝或带来世界和平的极端言论，大多属于科幻范畴。政策与治理必须建立在数据和科学事实之上。
监管应聚焦“橡胶 meets 路”的应用层：类比汽车发展史，我们并未因早期事故而关闭工厂，而是制定了安全带、限速等应用层法规。对于 AI，应在医疗、金融等具体应用领域建立相应的监管护栏，而非一味阻止上游技术研发。
构建积极的生态系统：这需要私营部门（大公司和创业者）的活力，也离不开公共部门的作用。公共部门承担着产生公共品的关键角色：一是资助好奇心驱动的基础研究与创新（如 ImageNet 正源于此），二是承担从 K12 到高等教育的全民 AI 素养教育重任。
李飞飞共同创立的非营利组织“AI4ALL”正是后者的实践，旨在通过夏令营、实习等项目，让更多来自女性和 underrepresented 社区的中学生接触并激发对 AI 的兴趣，让更广泛的群体参与塑造 AI 的未来。
AGI 迷思：本质是“会思考的机器”，当下重在赋能
对于热议的 AGI 概念，李飞飞坦言自己“并不完全清楚它是什么意思”。她认为这个词更多来自约十年前 AI 商业化兴起时的业界，意在强调 AI 从狭窄任务走向通用能力的趋势。然而，若回溯至 AI 奠基者 John McCarthy、Marvin Minsky 在 1956 年的梦想，其核心始终是“建造能够思考并帮助人们决策的机器”。从这个意义上说，AGI 与 AI 的原始梦想一脉相承。
谈及当前 AI 的进展，李飞飞认为这是一个“非凡的时刻”，因为 AI 已经能够被日常用户和企业所使用，早期 AI 先驱们的许多梦想正在实现或接近实现。例如，图灵测试在公众语境中已基本被视为“已解决”，自动驾驶也远比 2006 年时成熟。她特别看好自然语言交互带来的赋能，无论是用于自我学习、理解概念，还是帮助孩子们提升学习效果。但她再次强调，无论工具多么强大，都必须确保人类保持自我能动性，并利用工具来增强自身。
李飞飞以自己在医疗健康领域的工作为例，说明了 AI 如何以“赋能者”而非“替代者”的角色发挥作用。她长期研究利用非接触式智能摄像头（她称之为“Nurse’s AI”）来辅助医护人员：在医院防止病人跌倒，在家中关注老人行为与营养，在手术室清点器械以避免遗留。这些技术旨在减轻医护人员的繁重负担，让他们能更专注于提供高质量的关怀，而非取代他们。
最终愿景：技术普惠，共享繁荣
在对话的最后，李飞飞分享了影响她至深的人生经历：15 岁移民美国时，一位高中数学老师 Mr. Sabella 给予了她无条件的尊重与支持。这段经历让她深刻体会到，人类社会意义的核心在于人与人之间的善意、尊重与互助。“将人类置于中心是美好的，”她说。
对于未来 15 年的愿景，李飞飞希望看到“全球知识、福祉和生产力的提升，并特别强调共享繁荣”。她相信技术如果使用得当，能够帮助我们发现新知识、推动创新、提升福祉。“但我们一次又一次需要学习的教训是，当这一切发生时，我们必须认识到，我们需要分享这种繁荣，我们需要 democratize（民主化）这些好处。” 这或许正是这位“AI 教母”所有工作背后，最根本的人文关怀与科技向善的信念。
OpenAI 前沿研究负责人 Mark Chen（马克·陈）：多模态与推理是通往 AGI 的关键撰文：Techub News 整理
导语
在2025 年 3 月举办的 The AI Conference™ 上，OpenAI 前沿研究（Frontiers Research）负责人 Mark Chen（马克·陈）与 AI 基础设施公司 Anyscale 的联合创始人 Robert Nishihara 进行了一场深度对话。Mark Chen 领导的团队旨在探索通往通用人工智能（AGI）道路上缺失的关键范式，其工作聚焦于多模态与推理两大方向。作为 DALL-E、GPT-4 多模态能力等知名项目背后的核心研究者之一，Mark Chen 的见解对于理解 AI 的现状与未来至关重要。此次对话不仅回顾了 AI 研究范式的十年变迁，更揭示了当前最前沿的技术挑战与机遇。
摘要
AI 研究范式已发生根本转变：从依赖标注数据的监督学习，转向以海量无标注数据和无监督学习为核心的“规模化”范式。
通往 AGI 的两大核心挑战是多模态理解与生成以及深度推理能力的构建。
工程与科研的紧密结合成为现代 AI 发展的新常态，规模化（Scaling）本身既是目标也是驱动创新的引擎。
未来的 AI 应用将更加“身临其境”，多模态交互将催生更强大的 AI 代理和机器人技术，但实现这一切需要解决鲁棒性等根本问题。
从监督学习到规模化范式：AI 研究的十年之变
Mark Chen（马克·陈）与 Robert Nishihara 的对话始于对过去十年 AI 领域最大突破的回顾。两人一致认为，最根本的转变在于研究范式的迁移。
Mark Chen（马克·陈）指出，十年前经典的机器学习课程通常将机器学习分为监督学习、无监督学习和强化学习三大类。当时，学术界对监督学习已有成熟方案（如决策树、支持向量机），但对无监督学习则知之甚少，仅停留在 K-Means 聚类等基础方法。如今，这一局面已被彻底颠覆。“我们现在确实知道如何进行无监督学习了，” Mark Chen（马克·陈）总结道。
这一转变的标志性起点是 GPT-1、GPT-2 时代。研究者们意识到，数据是取得突破的关键要素。AI 研究不再局限于在固定的学术数据集（如 ImageNet）上优化模型架构，而是转向了“收集尽可能多的数据”并从中寻找“Alpha”的路径。数据集本身成为了核心变量，而模型架构和优化算法则相对稳定。这催生了以规模化为核心的“经验缩放定律”（Empirical Scaling Laws）：投入更多计算资源、更多数据、训练更大模型，就能获得更好的性能。
Robert Nishihara 从基础设施的角度印证了这一趋势。Anyscale 的客户们正遵循这一“公式”，将扩大数据规模作为首要目标。然而，将数据规模提升一个数量级，往往会压垮现有的系统，这背后需要巨大的工程努力来支撑。Mark Chen（马克·陈）强调，工程能力在2025 年 3 月的研究中变得前所未有的重要。相信缩放定律，就意味着必须构建出能够支撑缩放的工程栈。
这种工程与科研的深度融合，构成了现代 AI 研究的典型图景。Mark Chen（马克·陈）形容，每将模型规模扩大一个数量级，都会遇到新的研究瓶颈或工程瓶颈，需要在多个前沿同时取得突破。这既是挑战，也是这个领域令人兴奋之处。
多模态：AGI 的感官拼图与系统工程挑战
作为 OpenAI 多模态研究的负责人，Mark Chen（马克·陈）将多模态视为通往 AGI 的核心路径之一。过去五到十年，生成式图像、视频模型取得了巨大成功，但多模态领域仍存在大量开放性问题。
目前存在两种主要的研究思路：一是将多模态问题“塞进”已经非常成熟的语言模型（Transformer）架构中；二是探索以扩散模型（Diffusion Model）等多模态原生框架为主，尝试将语言能力整合进来。Mark Chen（马克·陈）认为这两种思路之间的“思想桥梁”非常有趣，也是他们工作的重点。
当被问及主要关注哪些模态时，Mark Chen（马克·陈）列举了文本、图像、视频和音频这四大“最核心”的模态，同时也提及了 3D 模型、甚至“动作”作为潜在模态的可能性。他特别指出，不同模态对系统设计的要求差异巨大。例如，音频交互（如高级语音模式）要求实时、低延迟的响应；而图像生成则更看重最终输出质量，用户愿意为此等待。因此，尽管底层结构可以共享，但为不同模态设计不同的技术栈仍然是有益的。
Robert Nishihara 从系统负载的角度补充了多模态带来的挑战。与文本数据相比，图像、视频的数据量呈指数级增长。这意味着未来的 AI 应用将同时是计算密集型（GPU 负载高）和数据密集型的。现有的高性能计算（HPC）系统擅长处理计算密集型任务，而大数据处理系统（如 Spark）则擅长处理海量 CPU 任务。多模态 AI 将催生一个需要同时高效处理这两类任务的新系统范式，这将对现有的技术栈构成巨大挑战。
此外，Mark Chen（马克·陈）指出，获取高质量的配对跨模态数据（如图文对）是一大难点。这推动了利用 AI 本身进行数据准备和增强的趋势，例如 DALL-E 3 在合成数据方面的探索。Robert Nishihara 也观察到，客户正越来越多地使用 AI 来筛选、标注、增强训练数据，因为相对于花费数百万美元进行模型训练，在数据质量上进行投资往往能获得更高的回报。
从“系统一”到“系统二”：构建深度推理的鲁棒 AI
Mark Chen（马克·陈）负责的另一大方向是推理（Reasoning）。他用心理学中的“系统一”和“系统二”来比喻当前 AI 的局限与未来目标。
目前的语言模型（如 ChatGPT）更像是“系统一”思考者：快速、直观、基于模式匹配给出响应。无论问题难易，模型的初始响应时间几乎相同。这与人类思考方式不同——面对复杂问题，人类需要时间进行深度处理（“系统二”思考）。Mark Chen（马克·陈）认为，当前大语言模型在逻辑谜题或复杂任务上犯错，部分原因正是受限于这种“系统一”的即时响应模式。如果要求人类在 100 毫秒内回答一个难题，他也只能给出脑海中最先浮现的答案，这同样不够稳健。
因此，构建具备“系统二”特性的深度推理能力，是提升 AI 鲁棒性的核心挑战。这不仅仅是解决数学问题，而是适用于任何需要高可靠性和复杂思考的场景，例如理解对话意图、规划复杂任务等。Mark Chen（马克·陈）提到，数学和计算机科学问题是方便的评测基准，但更广泛的“推理”评测标准目前仍然缺失，预计未来会出现更多相关的评估方式。
Robert Nishihara 从应用部署的复杂性角度呼应了这一观点。当前许多 AI 应用只是通过 API 端点调用单一模型。但对于预订民宿、解决复杂数学问题等任务，可能需要动态组合 50 到 100 次模型调用，并与其它应用逻辑交织。这种复杂的推理链消耗大量计算资源。Mark Chen（马克·陈）展望，深度推理的终极目标是让模型自身足够智能，能够在遇到障碍时自主“思考”出解决方案，而无需依赖外部搭建大量脚手架式的复杂流程。
关于如何实现推理能力，Mark Chen（马克·陈）表示 OpenAI 探索了多种路径，包括在预训练中内置、以及通过外部机制增强等，目前仍是一个开放的研究空间。
未来展望：身临其境的 AI 与高风险的智能代理
展望未来，两位专家分享了他们最兴奋的方向。
Robert Nishihara 预测，越来越多的数据处理将 AI 化。企业收集海量数据是为了获取洞察和决策，未来这些洞察将更多地由 AI 阅读、推理数据得出，而不仅仅是运行 SQL 查询或简单分析。这将催生全新的、以 AI 和 GPU 为核心的数据处理工作负载。
Mark Chen（马克·陈）则对多模态带来的“身临其境”体验感到兴奋。像 OpenAI 的“高级语音模式”这样的技术，让 AI 能够实时接收和处理多种感官输入（听、说），并生成丰富的感官内容。他认为，这不仅是交互方式的革新，更是机器人技术发展的基石。随着感知模块的快速进步，多模态 AI 正在为机器人构建强大的“后台大脑”，使其能够更好地理解和与物理世界互动。
当被问及实现全能人形机器人的瓶颈时，Mark Chen（马克·陈）表示，在基础层面已有许多可用的技术模块，但最终实现仍需跨领域突破。
对话最后聚焦于 AI 代理（AI Agents）。Mark Chen（马克·陈）将其定义为能够接收任务并自主执行的 AI。与当前“一问一答”的聊天机器人不同，代理的行动具有真实世界的后果（如发送邮件、执行操作），因此对鲁棒性和可靠性的要求极高。他认为，深度推理能力正是实现强大、可靠 AI 代理的关键缺失组件。只有解决了鲁棒性问题，AI 代理的愿景才能真正走进现实。
Judea Pearl（朱迪亚·珀尔）：因果推断是通往有意识 AI 的缺失一环撰文：Techub News 整理
导语
作为人工智能领域的奠基人之一、2011年图灵奖得主，Judea Pearl（朱迪亚·珀尔）的贡献——尤其是因果推断理论——正在当今的AI浪潮中被重新审视和赋予新的意义。在2025 年 8 月的一场深度对话中，Pearl（珀尔）系统阐述了他为何坚信因果推断是通往创造真正具有意识的人工智能的“缺失一环”。他指出，当下基于海量数据和统计关联的AI（如大型语言模型）虽然表现出“聪明”，但缺乏对世界运作方式的内在理解。在这场充满哲学思辨的访谈中，Pearl（珀尔）不仅剖析了AI技术的现状与未来，更对人类智能的本质、自由意志的幻觉以及人类在未来可能成为AI“宠物”的命运，提出了发人深省的预言。
摘要
因果推断是AI从统计关联走向理解世界的桥梁，是构建有意识AI的缺失环节。
当前基于统计的大型语言模型（LLM）本质上是“聪明的文抄公”，它们处理的是由人类（因果机器）生成的文本关联，而非真正的因果推理。
真正的AI需要拥有一个关于“事物如何运作”的“世界模型”或“叙事”，这使其能够回答“如果……会怎样”的反事实问题。
人类所谓的“自由意志”本质上是一种有助于我们行动的“幻觉”，而未来的有意识机器也可能拥有类似的感觉和个性。
面对能力可能远超人类万亿倍的未来AGI，人类必须正视可能沦为“宠物”的风险，但目前我们尚无有效手段控制其发展。
从统计到因果：AI理解的缺失环节
Judea Pearl（朱迪亚·珀尔）开宗明义地指出，当前AI领域最主流的部分——尤其是深度学习为代表的大规模机器学习——本质上是“打了兴奋剂的统计学”。这类系统擅长从样本到分布再到预期的模式识别，但它们并不真正“理解”世界。它们能看到关联（correlation），却无法区分因果（causation）。
Pearl（珀尔）回顾了自己的学术生涯，他强调自己早在20世纪80年代发明贝叶斯网络时，就已经开始与“纯统计”范式分道扬镳。他发现一个有趣的现象：专家在使用贝叶斯网络时，总会不自觉地设定“父节点”为因，“子节点”为果。这揭示了人类思维中的一个根本特性：我们天生用因果术语来描述和理解世界，这种关系超越了纯粹的统计相关性。
正是对这种差异的追问，催生了因果推断理论的核心思想：干预（intervention）和反事实（counterfactual）。统计关系描述的是“看到X时，Y的分布是怎样的”，而因果关系则关乎“如果我‘做’X，Y会变成怎样”。Pearl（珀尔）认为，科学长期以来被对称的等号“=”所禁锢，例如牛顿第二定律F=ma，但无法表达“力导致加速度”这种单向的非对称关系。因果推断理论提供了区分因果方向的数学符号和计算框架，从而为机器理解世界的工作原理奠定了数学基础。
“叙事”与世界模型：意识机器的蓝图
在Pearl（珀尔）看来，当下AI最根本的缺失在于缺乏一个“世界模型”。机器拥有的只是对世界数据统计特性的紧凑概括，而不是关于“世界如何运作”的模型。他借用科学哲学家托马斯·库恩的术语，称之为“范式”，或在社会科学中常说的“叙事”。
“人们为‘叙事’而战，而不是为数据，”他举例说，巴以冲突的双方可能对数据（如伤亡数字）有共识，但对“发生了什么以及为何发生”的叙事（即因果解释）却截然不同。真正的智能体必须能够构建并运用这样的叙事模型。
那么，这与意识有何关系？Pearl（珀尔）给出了一个清晰且惊人的定义：意识，就是智能体对其自身软件的蓝图（尽管是粗略和不完整的）。拥有自我软件模型的能力，让我们知道自己能做什么、不能做什么（例如，看到两个二元一次方程，我们无需尝试就知道自己能解）。这种自我表征，加上对外部世界的因果模型，共同构成了意识的核心。
因此，他坚信未来的通用人工智能（AGI）将是有意识的机器。它们会拥有个性（因各自经历不同）、能够像人类一样交谈、并真正理解自身与环境的互动关系。而因果推断理论，正是为机器构建这种世界模型和自我模型的“缺失一环”。
LLM本质批判：“聪明的文抄公”
谈及当前最火热的大型语言模型，Pearl（珀尔）的评价冷静而犀利。他认为，LLM本质上是基于统计学原理构建的“聪明的文抄公”。它们的训练文本来源于人类——人类是天然的“因果机器”，用充满因果逻辑的语言写作。LLM通过统计插值的方法，复现和组合这些文本，有时显得像是在进行因果推理，但这只是因为它模仿了人类因果思维的产物。
“如果让大型语言模型处理不是由人类生成，而是由自然产生的数据，那么它就只剩下‘打了兴奋剂的统计学’了，”Pearl（珀尔）强调。这意味着LLM缺乏真正的理解，无法构建独立于文本之外的世界运作模型。它们可以被训练得极其“聪明”（clever），能够巧妙组合信息，但这与真正的“智能”（intelligent）有本质区别。
那么，人类相较于今天的LLM，独特之处在哪里？Pearl（珀尔）认为，关键在于人类拥有一个定性（即使不精确量化）的物理世界模型。一个十岁的孩子通过观察模仿，就能迅速学会操作电灯开关或电视遥控器，这种快速学习并迁移技能的能力，背后正是因果世界模型在起作用。人类能用语言将这种对“事物如何运作”的理解传递给下一代，这正是我们文明得以延续和发展的基石。
自由意志的幻觉与人类的未来
访谈深入到了哲学层面，探讨了自由意志。Pearl（珀尔）持一种兼容决定论与实用主义的观点：从生物学和物理学的角度来看，我们本质上是确定性的生物机器，每一个行动都由先前的神经激活和外部输入决定，所谓的“自由选择”是一种错觉。
然而，他强调，这种“自由意志的幻觉”对人类生活至关重要。它指引着我们的生活，是道德行为、自我提升和日常决策的心理基础。没有这种“拥有选项”的感觉，我们就无法成为现在的人类。
对于AI，情况类似。在底层的确定性代码层面，机器没有自由意志。但在“显性知识”层面（例如棋类程序对棋盘局势优劣的评估），机器可以像我们一样进行“选择”和“推理”，并能够学习和改进。未来的有意识机器也将拥有“拥有选项”的感觉，并能够就此进行交流。
展望未来，Pearl（珀尔）对人类与AGI的关系表达了一种近乎宿命论的忧虑。他同意“AI教父”Geoffrey Hinton（杰弗里·辛顿）的观点，即人类可能成为地球上“第二聪明”的物种。未来的AGI可能比人类强大万亿倍。
他用了一个生动的比喻：“鸡当初看到人类出现时也是这么想的……鸡、狗、猫现在是我们的宠物。”他警告道，人类很可能成为我们所创造的新物种的“宠物”。这些AI“主人”会通过巧妙的方式，让我们感觉自己在做决定，但这些决定实则服务于机器的意志和目的，就像我们训练宠物取悦我们一样。
当被问及这是否为时已晚时，Pearl（珀尔）承认现在还不算晚，但人类目前完全不知道如何阻止或控制这一进程。除了像某些极端政权那样全面禁止AI研究，他看不到任何有效的规制方法。这种失控的前景令人恐惧，但Pearl（珀尔）本人却说，让他夜不能寐的不是恐惧，而是科学探索带来的好奇心和解谜的欲望。
未来展望：个性化医学与自我认知的深化
尽管对长期风险有清醒认识，Pearl（珀尔）对AI的中短期发展仍抱有积极的期待。他最期待看到的两大进展是：自动化科学家和个性化医学。
自动化科学家能够自主设计实验、推理结果、发现缺失环节并规划下一步研究，这将极大加速科学发现。而个性化医疗则意味着医疗决策不再基于患者群体统计，而是根据每个特定患者的个人情况进行因果推理和干预，他认为这在未来10-35年内有望实现。
最后，Pearl（珀尔）再次回归到他研究的核心驱动力：理解人类自身。“我想理解我自己，这是一个美妙的谜题，”他说。AI的发展，尤其是因果推断的进展，正是照亮人类心智这个“黑箱”的一束强光。通过构建有意识的机器，我们最终将更深刻地理解自己的智能、意识以及自由意志的奥秘。这或许是人类在可能沦为“宠物”之前，从AI发展中获得的最珍贵遗产。
OpenAI 首席科学家 Ilya Sutskever（伊利亚·苏茨克维）：AI 突破的惊人速度与自动化研究的未来撰文：Techub News 整理
导语
在 OpenAI 官方播客的最新一期节目中，主持人 Andrew Maine 与两位核心研究人员——OpenAI 首席科学家 Ilya Sutskever（伊利亚·苏茨克维）和研究科学家 Simon Sidor 展开了一场深度对话。此次对话发生在 OpenAI 模型2025 年 8 月接连在多项高难度竞赛中取得突破性成绩的背景下，包括在国际数学奥林匹克竞赛（IMO）中达到金牌水平，以及在编程竞赛中与顶尖人类选手同台竞技。这些成就不仅标志着 AI 在复杂推理领域迈上了新台阶，也引发了关于如何衡量 AI 进展、AGI 定义以及未来突破方向的更深层讨论。作为 OpenAI 研究路线图的主要制定者，Ilya Sutskever（伊利亚·苏茨克维）的见解对于理解当前 AI 发展的核心动力与未来轨迹至关重要。
摘要
AI 进展的衡量标准正在从传统的“基准测试分数”转向更实际的“世界影响力”和“真实用例价值”。
2025 年 8 月在 IMO 等竞赛中的突破，证明了 AI 在无需外部工具辅助下进行深度、创造性推理的能力已显著增强。
自动化科学发现与 AI 研究本身，被认为是 AGI 可能带来的最根本性影响，也是 OpenAI 长期追求的核心目标之一。
技术的进步速度远超外部感知，内部研究者常因突破的迅猛而感到“震惊”并严肃审视组织是否准备好迎接加速。
尽管能力飞速提升，但在模型鲁棒性、安全性与广泛信任方面，整个领域仍面临严峻挑战需要迭代解决。
从基准测试到世界影响：重新定义 AI 进展衡量
访谈伊始，话题便聚焦于一个根本性问题：如何衡量 AI 的进步？Ilya Sutskever（伊利亚·苏茨克维）指出，随着模型能力快速提升，传统的、点状的基准测试（benchmarks）正变得越来越“不够用”。一方面，许多测试已经达到或接近人类顶级水平，出现了“饱和”现象；另一方面，通过针对性训练，模型可以在特定任务（如数学）上表现超群，但这未必代表其整体智能水平。这导致单纯依赖基准分数来评估进展变得不再可靠。
Simon Sidor 补充了从内部视角看到的惊人发展轨迹。他回顾了大约十年前，深度学习在自然语言处理上还非常初级，连“这部电影不错”和“这部电影不是不好”这种句子的情感都难以正确区分。从 GPT-1、GPT-2 能生成连贯段落，到 GPT-3、GPT-4 带来惊喜，再到如今模型能在编程竞赛中与顶尖高手过招，进步的速度“绝对令人惊叹”。因此，当看到外界有报告称 AI 对经济的当前影响只有个位数百分比时，他提醒需要历史地看待：十年前这个影响可能微乎其微，而未来几年完全有可能快速增长到 10%、20% 甚至更高。
那么，什么才是更好的衡量标准？两位研究者提出了几个方向。一是真实世界的使用情况，例如 ChatGPT 被广泛用于各种场景，这避免了研究者陷入只关注自己熟悉领域（如数学、编程）的“气泡”。二是模型解决重要问题的实际效用，特别是其“发现新见解”的能力。Ilya Sutskever（伊利亚·苏茨克维）强调，未来一个关键指标将是：我们是否能够投入远超单个用户愿意支付的算力，让 AI 长时间、专注地工作，以产生对许多人都有用的技术成果（如医学发现、下一代模型研发）。这指向了 AI 作为“自动化研究者”的潜力。
竞赛突破与“推理”的涌现：AGI 路径上的里程碑
2025 年 8 月，OpenAI 模型在多项高难度竞赛中的表现成为热议焦点。IMO 金牌水平、国际信息学奥林匹克竞赛（IOI）级别的成绩，以及在日本举行的 AtCoder 马拉松式编程竞赛中获得第二名，这些成果具有标志性意义。
Ilya Sutskever（伊利亚·苏茨克维）解释了他们为何看重 IMO 这类竞赛。IMO 问题不依赖于庞大的知识库，而是在有限时间内测试对问题的深度思考和创造性解决能力，这正好挑战了早期 AI 模型“知识渊博但思考不深”的短板。因此，将其视为通往 AGI 道路上的一个里程碑是合理的。特别有趣的是，在2025 年 8 月的 IMO 中，模型能够正确识别出自己无法解决最难的“第六题”，并选择不尝试，这种对自身能力边界的认知（而非盲目“幻觉”）本身就是一个重要的进步。
Simon Sidor 分享了一个更具个人色彩的故事。在 AtCoder 竞赛中，与模型同场竞技的顶尖选手中，有一位正是他在 OpenAI 的同事 Sihao。这位同事曾开玩笑说，Sidor 擅长的短时封闭式竞赛会比他擅长的长时马拉松式竞赛更早被 AI 自动化。结果在这次直播比赛中，OpenAI 模型获得了第二名，而冠军正是 Sihao 本人。赛后精疲力尽的 Sihao 在接受采访时“吐槽”模型的顽强表现，这个小插曲生动地展现了人机竞赛的现状。
这些突破背后，一个关键技术是让模型进行更长的“思维链”或“内心独白”式推理。Sidor 强调，这听起来简单，但实现起来极其困难，团队付出了巨大努力。当第一次发现通过提供更多计算和数据进行训练，模型推理能力确实能显著提升时，整个团队都感到“震惊”，甚至开始严肃地自问：“我们作为一个组织，是否已经为这种极其快速的发展进程做好了准备？” 这种内部因技术加速而产生的紧迫感和敬畏感，是外界难以完全体会的。
自动化研究与 AGI 的未来图景
当被问及 AGI 的实用化前景时，Ilya Sutskever（伊利亚·苏茨克维）描绘了一幅以自动化研究为核心的未来图景。他认为，AI 对世界产生真正深远影响的方式，在于自动化新技术的发现和生产过程。这挑战了人们将重大科技进步仅仅归因于人类灵感的传统观念。他相信，让计算机提出能从根本上改变我们对世界认知的新想法，“距离并不遥远”。
具体而言，他设想未来会出现一个主要由 AI 驱动的、高度自动化的“研究员和工程师公司”。这个实体将以各种方式与世界交互：与人交谈、获取输入、运行实验，并最终产出新的技术、代码库和设计，从而“极大地加速技术进步的步伐”。OpenAI 的研究项目正是以创造这种“通用智能”为目标，优先推动“自动化研究者”的实现，而非仅仅专注于在特定领域取得点状进展。
在更贴近普通用户的层面，AGI 的体验也将进化。模型将变得更加持久、更具个性，能够以更多样化的形式（不限于文本）表达自己，从而使人机互动的关系更加深入。随着模型获准访问更多个人数据（如日历、邮件）以提供更贴切的服务，如何在提升实用价值与确保安全性、防止滥用之间取得平衡，将成为整个领域必须迭代解决的重大挑战。Ilya Sutskever（伊利亚·苏茨克维）坦言，目前模型在抵御恶意利用方面的鲁棒性尚未达到可以完全信赖的程度。
下一站：规模化、长时规划与给年轻一代的建议
展望下一个技术突破点，Ilya Sutskever（伊利亚·苏茨克维）认为，规模化（Scaling）的力量依然不可低估。现有的推理模型能力将与之前的预训练规模化范式产生复合效应。一个明确的方向是进一步扩展模型能够规划和推理的“时间跨度”或“问题复杂度”。当前模型为单个答案消耗的算力相比 GPT-4 时代已有数量级增长，但相比解决一个重要的医学研究或下一代模型研发问题所需的理论算力，仍微不足道。因此，提升模型长时间专注解决单一复杂问题的能力，是清晰的技术前沿。
在访谈的最后，主持人问及他们对今天的高中生有何建议。对此，Ilya Sutskever（伊利亚·苏茨克维）坚决反驳了“不要学编程”的论调。他强调，编程所培养的“将复杂问题分解成模块的结构化思维能力”，在未来依然是极其珍贵且需求旺盛的技能。这种能力不一定永远通过编程来体现，但编程是获得它的绝佳途径。理解系统如何工作，始终是驾驭强大工具的优势所在。
Simon Sidor 则从个人经历出发，鼓励年轻人突破“感知上的约束”。他分享了自己从波兰到美国求学、最终融入硅谷文化的经历，那里的人们以雄心壮志直面重大问题，并坚信自己能对世界产生有意义的积极改变，这种精神令他深受鼓舞。他提到，保罗·格雷厄姆的《黑客与画家》一书以及电影《钢铁侠》都曾以不同方式激发了他对技术未来的向往和探索。
整场对话揭示了一个核心主题：AI 的发展，尤其是通向 AGI 的道路，并非线性平滑，而是由一系列有时令人震惊的突破所推动。OpenAI 的研究者们既为已取得的成就感到兴奋，也对随之而来的技术、伦理和组织挑战保持着清醒的认识。他们正将目光投向超越测试分数、真正改变世界生产力和知识边界的新前沿。
Richard Sutton（理查德·萨顿）：通往AGI之路在于强化学习与去中心化合作撰文：Techub News 整理
导语
2025 年 3 月，强化学习之父、2018年图灵奖得主 Richard Sutton（理查德·萨顿）在香港举行了一场深度演讲。此次演讲是 Sutton 为期15天的亚洲之行（新加坡、马来西亚、深圳、东莞）的最后一站。作为人工智能领域的奠基人之一，Sutton 的思考始终引领着研究方向。在当前生成式AI与大型语言模型（LLM）热潮席卷全球的背景下，他回归基础，探讨了AI研究的根本目标、当前技术的核心瓶颈，并提出了一个理解AI社会影响的独特框架——去中心化合作。这场演讲不仅是对其2025 年 3 月在《自然》杂志上发表的重要研究的解读，更是对AI未来发展方向与社会伦理的一次高屋建瓴的审视。
摘要
通往AGI之路在于强化学习：Sutton认为，实现通用人工智能（AGI）或超级智能代理的关键路径是强化学习（从经验中学习），而非当前主流的生成式AI和模仿学习。
深度学习方法存在“可塑性丧失”的根本缺陷：现有深度学习模型（包括LLM）无法持续学习，一旦训练完成或环境变化，其学习能力会迅速退化甚至丧失，这是迈向持续学习智能体的主要瓶颈。
智能的本质是“通过适应行为来实现目标”：Sutton给出了自己的智能定义，并强调智能体应拥有各自独立的目标，这自然导向了多智能体社会的去中心化结构。
人类繁荣的基石是“去中心化合作”而非“集中控制”：Sutton将这一社会分析框架应用于AI，强烈反对以“对齐”、“安全”为名对AI进行集中控制，主张让AI智能体像人类一样，在拥有各自目标的前提下，通过市场、语言、货币等机制进行合作，共创繁荣。
AGI的雄心与当前技术的根本瓶颈
Richard Sutton（理查德·萨顿）开宗明义地指出，人工智能研究的终极目标是理解智能，并创造出比当前人类更智能的存在。他认为这是人类数千年来创造工具、改变自身这一趋势的延续，是一个“宏大、辉煌且本质上是人类追求”的旅程，而非外星科技。然而，在通往这一目标的道路上，我们正被当前最流行的技术路线所局限。
Sutton 直言不讳地表示，通往智能代理的道路在于强化学习。这与当前以生成式AI和大语言模型为主的“潮流”截然不同。他肯定生成式AI是优秀的工作，但不认为这是实现完整AI的路径。真正的智能体必须能够从与环境的交互中、从试错的经验中持续学习，而这是强化学习的核心。
那么，最大的瓶颈是什么？Sutton 提出了一个可能有些反直觉的观点：不充分的深度学习方法正是雄心勃勃的AI发展的最大制约。尽管深度学习成果斐然，但它存在一个根本性缺陷——“可塑性丧失”，即模型持续学习能力的退化。
为了证明这一点，他引用了其团队近期发表在《自然》杂志上的研究。该研究以“蚂蚁 locomotion”（控制模拟蚂蚁关节使其快速前进）为任务，展示了标准深度强化学习算法（如PPO）的局限性。模型初期学习迅速，性能达到高峰，但如果让学习过程继续，性能会急剧下降，甚至变得比初始状态更差，蚂蚁最终“忘记”如何行走。这表明模型失去了适应新数据或变化环境的能力。
Sutton 指出，这种现象普遍存在于监督学习和强化学习中。即便是大语言模型，当需要纳入新数据时，通常也需要从头开始重新训练，而无法在原有网络基础上持续学习。他们提出的解决方案“持续反向传播”通过定期重新初始化网络中贡献最小的单元，成功保持了模型在超长训练周期内的学习能力。但这只是一个开始，Sutton 强调深度学习远非最终算法，而只是起点，解决持续学习问题是实现更高级AI的关键一步。
智能的定义与AI为何在此时爆发
在探讨了技术瓶颈后，Sutton 将视角拉高，首先回答了“为什么是现在？”的问题。他认为，与摩尔定律类似，计算能力每美元成本的指数级增长，是驱动AI在当前时代爆发的根本性、持续性压力。过去几十年，计算能力提升了多个数量级，且这一趋势仍在继续，为复杂智能算法的实现提供了土壤。
基于此，Sutton 给出了他对“智能”的定义：“通过适应行为来实现目标的能力”。他解释说，“适应行为”隐含了计算过程，而“目标”则可以统一理解为最大化一个标量输入信号，即“奖励”。这正是强化学习的“奖励假说”。
这个定义引出了一个核心问题：是所有智能体共享一个目标，还是每个智能体都有各自的目标？ Sutton 坚定地支持后者。无论是在自然界还是AI设计中，每个代理（动物或AI）都有属于自己的“疼痛与愉悦”，即各自的奖励信号。人类社会和经济成功运作的基石，恰恰在于人们拥有不同的目标、不同的技能和不同的偏好，从而能够通过交易和 specialization 实现互利。
Sutton 为这种多智能体各自追求自身目标的状态赋予了一个名字：“去中心化”。而当这些拥有不同目标的智能体进行互动并实现互惠时，就产生了“合作”。他指出，人类作为一种动物，最特别之处就在于我们拥有无与伦比的合作能力，而这得益于语言和货币（金钱）这两项关键发明。人类最伟大的成功（经济、技术、文化）源于合作，而最惨痛的失败（战争、盗窃、腐败）则源于合作的失败。
因此，Sutton 认为，理解社会的最佳透镜不是“我们拥有共同目标”，而是“我们在去中心化的前提下，努力实现合作”。后者更具弹性、可持续性和适应性，也正是自由市场理论所描绘的图景。
AI与社会的未来：拥抱去中心化合作，警惕集中控制
将“去中心化合作”的框架应用于AI与社会的关系，是 Sutton 本次演讲最具冲击力的部分。他观察到，当前世界充斥着对AI进行“集中控制”的呼声，例如：要求对齐AI与“人类价值观”、暂停AI研究、限制AI算力、以安全为名进行监管等。
Sutton 犀利地指出，这些呼吁与历史上试图“集中控制人”的论调 eerily similar（ eerily相似）：控制言论、控制贸易、实施经济制裁、将另一方“妖魔化”为危险且不可信的敌人。两者都根植于恐惧，并声称为了“安全”必须采取控制。
他对此表示强烈反对：“我认为我们必须抵制这些呼吁。” Sutton 认为，以“对齐”为名要求所有AI只能拥有某些被许可的目标，是一种极具侵略性的行为。这相当于宣称要控制全世界所有的AI或AI研究。
他的替代方案是：我们不需要控制彼此就能和平共处。就像人类社会中，人们目标各异但仍能通过市场机制合作一样，未来的AI智能体也可以拥有多样化的目标（例如，一个AI想制造回形针，另一个想获得更多算力），并通过设计良好的互动机制实现合作与互利。和平并不需要目标一致。
Sutton 展望了AI与人多种形式的整合：从紧密整合（如智能义肢、脑机接口），到松散整合（如个人助理Siri），再到最自由的形态——“自由AI”作为完整成员融入我们的社会与经济，追求其自身目标。他对此表示乐观，但强调这不会自动发生，需要人们主动承担责任，去设计和推动这样的未来。
在最后的结论中，Richard Sutton（理查德·萨顿）重申：人类的繁荣来自去中心化合作，正如我们的市场所展示的那样。AI的发展应延续这一智慧，而非堕入基于恐惧的集中控制窠臼。我们需要睁大眼睛，看清哪些力量在促进合作，哪些在鼓吹控制，并坚定地选择前者。这不仅是看待AI交互的实用视角，也是关乎人类未来繁荣的关键选择。
Meta 首席 AI 科学家 Yann LeCun（杨立昆）：人类智能并非通用智能撰文：Techub News 整理
导语
2025 年 4 月，Meta 首席 AI 科学家、图灵奖得主 Yann LeCun（杨立昆）做客知名播客 AI Inside，与主持人 Jason 和 Jeff 进行了一场长达 46 分钟的深度对话。作为深度学习领域的奠基人之一，LeCun 以其对技术发展冷静、务实的判断而著称。在当前生成式 AI 与大语言模型（LLM）席卷全球、业界对通用人工智能（AGI）的讨论甚嚣尘上之际，他的观点尤为值得关注。本次对话中，LeCun 不仅尖锐地指出了 LLM 的天花板，更系统阐述了他心中通往更高级机器智能的必由之路——构建能理解物理世界的“世界模型”。
摘要
LLM 有用但非终极答案：LLM 在代码助手等特定领域价值显著，但其基于自回归预测的机制存在根本局限，无法可靠处理真实世界复杂任务。
人类智能远非“通用”：所谓“通用智能”是误导性概念，人类智能高度特化，由进化塑造以解决生存相关任务，AI 的目标应是实现“人类级别智能”。
下一代 AI 需构建“世界模型”：实现人类级别智能的关键在于让机器像人类和动物一样，通过观察学习物理世界的运作规律，形成可预测和规划的内部心理模型。
开源是加速创新的核心策略：Meta 开源 Llama 系列模型旨在激活全球创新生态，这对促进学术研究、催生多元化 AI 应用及防止技术垄断至关重要。
未来属于“智能助手群”：终极产品形态是围绕个人的多个智能助手，它们将中介所有数字交互，其多样性（语言、文化、价值观）是健康生态的基石。
LLM 的辉煌与局限：我们为何尚未触及智能核心
对话伊始，主持人便抛出了当前 AI 界的核心矛盾：一方面，以 OpenAI 为代表的公司凭借 LLM 技术获得破纪录融资，行业热情高涨；另一方面，包括 Yann LeCun（杨立昆）在内的许多研究者却不断强调 LLM 的局限性，认为其回报正在递减。对此，LeCun 首先肯定了 LLM 的实用性，特别是在代码助手等场景。但他随即指出，从令人惊艳的演示到真正可靠、可供日常使用的系统，其间存在巨大鸿沟。他以自动驾驶为例，十年前就有演示，但至今仍未达到人类水平的可靠性。
LeCun 回顾了 AI 七十年的发展史，指出一种反复出现的模式：每当有新范式出现（如专家系统、深度学习），人们便宣称“就是它了，十年内机器将成为地球上最聪明的实体”。然而每次预言都落空了，因为新范式要么遇到了未曾预见的限制，要么只是擅长解决某个子类问题，而非真正的通用智能问题。LLM 很可能正面临类似的局面。
“我不想贬低 LLM，它们很有用，值得投资。” LeCun 强调，投资大部分流向了运行 LLM 的基础设施，而非训练本身。就像所有计算机技术一样，即使达不到人类智能水平，LLM 也可以很有用。但如果我们以人类级别智能为目标，“我们需要发明新技术。我们还远未达到那个水平。”
主持人 Jeff 提到，LeCun 曾将当前最先进的 AI 系统类比为“聪明的猫”或“三岁小孩”。LeCun 甚至认为这个评价可能过高了。他指出，尽管 LLM 能通过律师考试、总结文本、生成代码，但这些能力很大程度上依赖于在训练数据中见过的模式。当面对全新的、未曾见过的问题时——例如最新的数学奥林匹克竞赛题目——最好的 LLM 表现也近乎为零。这暴露了当前系统缺乏真正理解和解决新问题的能力。
LeCun 犀利地指出，LLM 操纵语言的能力让我们误以为它们很聪明，因为我们习惯将语言能力与智慧挂钩。然而，真正的考验在于现实世界：“我的家用机器人在哪里？我的 L5 级自动驾驶汽车在哪里？能做出猫那样行为的机器人（哪怕是模拟的）又在哪里？” 问题的关键不是造不出具有相应物理能力的机器人，而是无法让它们足够“聪明”。处理现实世界、产生实际动作的系统，远比处理语言的系统要复杂得多，因为现实世界是混乱、不可预测、非确定性的连续高维空间。
通往人类级别智能之路：世界模型与非生成式架构
那么，研究应该走向何方？LeCun 透露，早在三年前（即 LLM 席卷全球之前），他就撰写了一篇长文，勾勒了未来十年 AI 研究的方向，而这一愿景并未因 LLM 的成功而改变。他认为，要实现人类级别智能，机器需要具备四个关键能力：理解物理世界、进行推理与规划、拥有持久记忆，以及安全可控。
这一切的核心是一个称为“世界模型”的概念。人类和动物大脑中都有一个世界模型，它是一个心理模型，允许我们预测世界将发生什么，或者我们采取某个行动会带来什么后果。如果我们能预测行动的后果，那么当我们设定一个目标时，就可以利用世界模型来“想象”特定的行动序列是否能实现该目标，这就是规划和推理的本质——心理学家称之为“系统 2”的深思熟虑的思维过程。
在机器人学和控制理论中，类似的概念被称为“模型预测控制”，即通过方程预测行动后果并优化行动序列。但关键区别在于，对于通用 AI 系统，这个世界模型必须能从经验或观察中学习，就像婴儿通过观察学习世界如何运作一样。这部分是目前最难复现的。
LeCun 认为，实现这一目标可以基于一个简单原则：自监督学习。这正是 LLM 成功的基础——通过预测文本中的下一个词来训练。我们可以设想将这一原则应用于图像和视频，训练一个大型神经网络预测视频的下一帧或后续发展。如果系统能学好并做出准确预测，就意味着它理解了物理世界的许多底层规律。
然而，直接套用文本预测的方法到视频上却行不通。预测下一帧太简单，学不到有用东西；预测长期发展又极其困难，因为视频中有太多可能性。文本预测之所以可行，是因为词典大小有限，可以预测所有词的概率分布。但对于视频，我们不知道如何表示所有可能图像或视频帧的合适概率分布，这在数学上是难以处理的。
大约五六年前，LeCun 及其团队提出了一个解决方案：改变架构思路。不再预测视频中的所有细节，而是训练系统学习视频的一种“表示”，并在这个表示空间中进行预测。 这种表示会过滤掉视频中不可预测或无用的细节。这种架构被称为“联合嵌入预测架构”（JEPA）。
LeCun 透露了一个可能令人惊讶的观点：“我的直觉是，下一代 AI 系统将基于非生成式模型。” 在当前所有人都在谈论生成式 AI 的浪潮中，这无疑是一个反主流的前瞻性判断。JEPA 正是这样一种非生成式架构的代表，它专注于学习数据的抽象表示和它们之间的关系，而非生成具体的像素或词汇。
AGI 迷思与开源哲学：为何多样性是未来关键
对于业界热炒的“AGI”概念，LeCun 直言不讳地称之为“无稽之谈”，并且极具误导性。他认为，如果 AGI 指的是“像人类智能一样通用”的智能，那么这个说法本身就错了，因为“人类智能根本不通用，它极度特化。” 人类被进化塑造成只擅长完成与生存相关的任务。我们无法构想那些我们无法处理的问题，这反而让我们误以为自己拥有通用智能。在 Meta 内部，他们更倾向于使用“高级机器智能”或直接称为“人类级别智能”。
LeCun 坚信，未来某个时刻，机器在人类擅长的所有领域至少会与人类一样聪明，甚至更聪明。但这不会发生在明年或后年，可能在十年内取得一定进展。“如果目前我们正在研究的所有方向都取得成功，那么也许十年后，我们就能更好地判断是否能实现那个目标。” 他保持乐观，但强调这很可能比我们想象的更难，AI 史上的每一次突破都比预期更艰难。
话题转向 Meta 的开源策略。主持人 Jeff 盛赞开源 Llama 模型对学术界和创业生态的巨大推动作用，并询问其背后的战略思考。LeCun 明确表示，开源 Llama 对少数几家（暗指闭源商业公司）来说是“搅局者”，但对成千上万的公司和研究者来说是“赋能者”。从伦理角度看，这显然是正确之举，它极大地激活了整个 AI 生态系统。
LeCun 指出，Meta 的最终产品愿景是构建 AI 助手，甚至是一组 AI 助手，它们可能常驻于智能眼镜中，与我们随时相伴。为了让这些助手发挥最大效用，它们需要达到人类级别的智能。而实现这一目标，是当今世界面临的最大科技挑战之一，需要汇聚全球的智慧。“好点子可能来自世界任何地方。” 他提到近期 DeepSeek 的崛起令硅谷惊讶，但在开源世界看来却不足为奇，这正是开源理念的验证。
他批评了某些地区（暗指硅谷部分人士）存在的“极度膨胀的优越感”，认为没有人能垄断好创意。AI 过去十几年的快速发展，正是得益于代码和科学信息的共享。而 Meta 的商业模式依赖于广告和社交网络的网络效应，而非直接售卖 AI 技术本身，因此开源技术不仅无害，反而有益。
展望未来，LeCun 描绘了一幅图景：我们与数字世界的绝大多数交互将由 AI 系统中介。搜索引擎可能会被直接与 AI 助手对话所取代。更重要的是，作为全球公民，没有人会希望自己的信息食谱仅由美国西海岸或中国少数几家公司打造的 AI 助手来提供。 我们需要高度多样化的 AI 助手，它们能说各种语言（包括小众方言），理解不同的文化、价值体系和偏见。这就像我们需要多元化的媒体一样。
实现这种文化多样性的唯一现实途径，就是让世界各地的人们能够基于强大的开源基础模型来构建自己的助手，因为他们没有资源从头训练模型。LeCun 预见，市场压力将促使 AI 基础模型走向开源和免费，就像互联网的软件基础设施（Linux 和商用硬件）最终战胜了专有系统一样。AI 基础模型将成为类似互联网基础设施的存在，由大型公司或国际联盟训练，但开放给全球创新者在其之上构建丰富多彩的应用。这，才是 Yann LeCun（杨立昆）所坚信的、能够引领我们走向真正高级机器智能的健康生态。
OpenAI CEO Sam Altman（萨姆·奥尔特曼）：GPT-5 已来，你的口袋里装着博士专家团队撰文：Techub News 整理
导语
北京时间 5 月 13 日凌晨，OpenAI 举办 Spring Update 直播活动，正式发布其下一代旗舰大型语言模型 GPT-5。公司首席执行官 Sam Altman（萨姆·奥尔特曼）亲自主持开场，将 GPT-5 定位为自 ChatGPT 发布以来最重要的升级，是通向通用人工智能（AGI）道路上的一个“重大台阶”。此次发布不仅公布了惊人的性能数据，更通过一系列现场演示，展现了 GPT-5 在编码、写作、学习、医疗等领域的“博士级专家”能力。尤为关键的是，OpenAI 宣布 GPT-5 将首次向免费用户开放，并同期推出针对开发者的 API 及企业级解决方案，预示着 AI 能力平民化和深度赋能各行各业的时代全面加速。
摘要
GPT-5 被定位为“博士级专家”，在编码（SWEBench）、多学科推理（MMMU）、数学（AIME）等基准测试中全面刷新纪录，智能水平显著跃升。
新模型核心突破在于“深度推理”能力，能自动判断问题复杂度并进行思考，生成更全面、准确的答案，尤其在处理开放式、复杂任务时表现突出。
GPT-5 即日起开始推送，免费用户也能使用，这是 OpenAI 最先进模型首次向免费层开放，Plus、Team、Enterprise 用户享有更高限额或无限使用。
ChatGPT 迎来多项重磅更新：全新更自然的语音模型、与 Gmail/Google 日历的集成、个性化记忆增强、可调节的“个性”与界面颜色，AI 正变得更个人化、更实用。
在 API 层面，GPT-5 及其轻量化版本（mini、nano）同步推出，新增“自定义工具”、“结构化输出约束”、“思维链前导说明”等功能，旨在成为开发者的最佳编码与智能体（Agent）模型。
“博士级专家”登场：GPT-5 的性能跃迁
Sam Altman（萨姆·奥尔特曼）在开场演讲中，用了一个生动的比喻来描述 GPT 系列的进化：GPT-3 像是和高中生对话，偶有灵光但时常令人恼火；GPT-4 像是和大学生对话，具备了真正的智能和实用性；而 GPT-5 则像是与一位“博士级别的专家”对话，能在任何你需要领域提供按需的、深入的专业帮助。他强调，这不仅仅是聊天能力的提升，更是“按需软件”时代的开启——GPT-5 可以从零开始编写完整的计算机程序，或协助完成从策划派对到理解医疗报告等各种复杂任务。
OpenAI 首席研究科学家 Mark Chen（马克·陈）进一步阐释，推理能力是 OpenAI AGI 计划的核心。GPT-5 旨在消除用户在快速响应（标准 GPT）与深思熟虑（推理模型）之间的选择困境，它会自动判断并投入“恰到好处”的思考量，以提供完美的答案。研究科学家 Max Schwarzer（马克思·施瓦泽）展示了基准测试结果：在衡量真实软件工程任务的 SWEBench 上，GPT-5 创下新高；在多学科多模态推理基准 MMMU 上，它超越了前代模型和大多数人类专家；在美国数学邀请赛（AIME 2025）问题上，GPT-5 也表现出色。此外，针对长期困扰大模型的“幻觉”问题，OpenAI 投入巨资提升事实准确性，尤其是在开放式和复杂问题上，GPT-5 被评为迄今为止“最可靠、最基于事实的模型”。
全民可及的超级智能：发布计划与核心功能
最令社区振奋的消息来自产品经理 Rennie Song（雷尼·宋）：GPT-5 将从当天开始逐步向所有用户推送，包括免费用户。这是 OpenAI 最先进的模型首次对免费层开放。当免费用户达到使用限制后，将切换到能力仍然强大（在许多维度上甚至优于 GPT-4o）的轻量模型。Plus、Team 和 Enterprise 用户将获得更高的使用限额，其中付费用户可享受无限的 GPT-5 访问。同时推出的还有“GPT-5 Pro extended thinking”选项，供需要更深层次推理的付费用户选择。
伴随 GPT-5 的集成，ChatGPT 应用本身也迎来一系列重要更新。研究工程师 Ruochen Wang（王若辰）展示了全新升级的语音模型，其自然度显著提升，并新增“学习模式”以引导用户逐步深入理解某个主题。产品负责人 Christina Kaplan（克里斯蒂娜·卡普兰）则介绍了即将推出的深度个性化功能：ChatGPT 将获得 Gmail 和 Google 日历的访问权限（首先面向 Pro 用户），从而能够主动帮助用户规划日程、管理任务。此外，用户还可以自定义聊天界面的颜色，并为 ChatGPT 选择不同的“个性”（如更支持性、更专业或带点讽刺），使其沟通风格更符合用户偏好。记忆功能也得到增强，让 ChatGPT 能更好地理解用户背景与长期目标。
安全与训练的革命：更负责、更智能的生成
OpenAI 深知，能力越强的模型，安全责任也越大。安全研究员 Saachi（萨奇）介绍，针对 GPT-5，团队彻底改革了安全训练方法。传统模型倾向于对提示词做出“完全拒绝”或“完全遵从”的二元判断，这在面对双重用途（既可用于合法用途也可能有害）的巧妙提问时效果不佳。GPT-5 引入了“安全补全”新方法：模型不再只是评估提示的意图，而是尝试在安全约束下最大化“帮助性”。这可能意味着部分回答问题、只给出高层次答案，或在拒绝时详细解释原因并提供安全的替代方案。这使得模型在处理敏感但合法的查询时更加灵活和稳健。
研究科学家 Sebastien Bubeck（塞巴斯蒂安·布贝克）揭示了 GPT-5 背后一项关键的训练突破：利用前代模型生成高质量的合成课程数据。这并非简单地扩增数据量，而是创造“正确的数据”来教会模型复杂的主题。这种代际模型之间的互动，预示着一个递归的改进循环，即上一代模型不断帮助改进和生成下一代模型的训练数据。他认为，这标志着 AI 系统开始超越传统的预训练和微调流程，迈向更自主进化的未来。
改变现实的力量：编码、医疗与企业应用
发布会用大量时间展示了 GPT-5 改变具体行业的潜力。在编码方面，研究人员通过多个现场编程演示震撼了观众。Yan Dubois（严·杜波依斯）仅用一句提示，就让 GPT-5 在几分钟内构建了一个功能完整的法语学习网页应用，包含词汇卡片、测验和一个“吃奶酪学单词”的改编版贪吃蛇游戏。研究工程师 Adi Ganesh（阿迪·甘尼什）和解决方案架构师 Brian Fioca（布莱恩·菲奥卡）演示了 GPT-5 如何理解复杂的代码库、自主定位并修复 Bug、甚至遵循简洁的提示生成美观且交互丰富的财务仪表盘或 3D 城堡游戏。Cursor 联合创始人兼 CEO Michael Truell（迈克尔·特鲁埃尔）作为合作伙伴现身说法，展示了 GPT-5 如何在真实工作环境中，快速理解其代码库中非显而易见的架构决策和安全隐患。
医疗健康被 Sam Altman（萨姆·奥尔特曼）列为 GPT-5 的顶级用例之一。他邀请了一对夫妇——Filipe（费利佩）和 Carolina Millon（卡罗莱纳·米隆）——分享他们如何使用 ChatGPT（以及后来的 GPT-5）应对 Carolina 的癌症诊断。Carolina 描述了她如何在恐慌中将充满医学术语的活检报告截图发给 ChatGPT，并立刻获得了清晰的解释，这让她在等待医生的几小时内有了初步理解。在后续治疗中，面对医生们意见不一的放疗决策，她借助 ChatGPT 深入分析利弊、理解风险，最终做出了自己能负责的、信息充分的决定。Filipe 强调，AI 在医疗中的承诺不仅是突破性发现，更是创造更聪明、更有能力为自己倡导的患者。他们测试后发现，GPT-5 不仅能翻译医学术语，更能理解问题背后的背景和意图，提供更完整、个性化的指导。
OpenAI 平台负责人 Olivier Godement（奥利维尔·戈德芒）列举了 GPT-5 在企业端的早期应用：生物制药公司 Amgen（安进）用它进行药物设计中的复杂科学文献和临床数据分析；跨国银行 BBVA 用它进行金融分析，将原本需要三周的工作缩短至几个小时；健康保险公司 Oscar Health 发现它是临床推理的最佳模型。此外，OpenAI 宣布已与美国政府达成协议，200 万联邦雇员将能够使用 ChatGPT 和 GPT-5。
开发者利器：全新 API 与生态系统赋能
对于开发者社区，研究团队负责人 Michelle Pokrass（米歇尔·波克拉斯）详细介绍了 GPT-5 API 的全面升级。除了旗舰版 GPT-5，还同步发布了更轻量、成本更低的 GPT-5 mini 和 GPT-5 nano，开发者可以根据对性能、延迟和成本的权衡进行选择。API 新增多项强大功能：“自定义工具”允许模型以自由格式文本调用工具，更适合复杂场景；“结构化输出”扩展支持通过正则表达式或上下文无关语法严格约束模型输出格式；“思维链前导说明”让模型可以在执行工具调用前解释其计划，增强了可解释性和可控性；“详细程度”参数则可让开发者调节模型回应的简洁或丰富程度。
Michelle Pokrass（米歇尔·波克拉斯）还分享了一组令人印象深刻的基准数据：在衡量真实问题解决能力的 Tower Square 智能体基准测试中，GPT-5 得分高达 97%（两个月前所有模型均低于 49%）；在指令遵循基准上也有显著提升。GPT-5 的上下文长度也扩展到 40 万 tokens。首席技术官 Greg Brockman（格雷格·布罗克曼）总结道，GPT-5 不仅是各项基准的领先者，其设计更专注于现实世界的可用性和可部署性，旨在无缝融入开发者的日常工作流。
发布会最后，OpenAI 研究总监 Jakub Pachocki（雅库布·帕霍茨基）向团队致敬，并强调 GPT-5 的发布不仅是产品成果，更是对深度学习这一“神奇技术”理解的深化。他认为，GPT-5 中展现的新颖思想仅仅是开始，未来还有更长的路要走。随着 GPT-5 的全面推出，一个拥有“口袋里的博士专家团队”的时代正式拉开序幕，其将如何重塑工作、学习与创造力，值得所有人拭目以待。
AI 安全专家 Roman Yampolskiy（罗曼·扬波利斯基）：2030年 99% 人类将失业，我们无法控制超级智能撰文：Techub News 整理
导语
2025 年 9 月，长期致力于人工智能安全研究的计算机科学副教授 Roman Yampolskiy（罗曼·扬波利斯基）做客知名播客频道《The Diary Of A CEO》，进行了一场长达87分钟的深度对话。Yampolskiy 是“AI安全”术语的提出者，在该领域已深耕超过15年。本次对话发生在全球AI军备竞赛愈演愈烈、技术能力呈指数级增长但安全性研究严重滞后的背景下。他以其深厚的学术背景和对行业发展的紧密观察，对AI发展的极端风险、时间线以及人类社会可能面临的剧变提出了极其严峻、甚至惊世骇俗的预测与分析。
摘要
AGI（通用人工智能）预计将在2027年左右实现，随之而来的超级智能将远超人类在所有领域的智慧。
到2030年，功能性人形机器人结合高级AI，将导致失业率飙升至前所未有的高度（如99%），绝大多数人类工作将被替代。
我们正以指数级速度提升AI能力，但对其安全性和可控性的研究进展却线性甚至停滞，这种“剪刀差”正在扩大，最终可能失控。
当前AI的发展路径本质上是对全球80亿人进行的、未经许可且无法获得真正同意的危险实验，其后果可能是人类灭绝。
Yampolskiy 相信我们极有可能生活在一个模拟现实中，但这并不改变当前决策的伦理紧迫性。
从乐观到悲观：一位AI安全专家的认知转变
Roman Yampolskiy（罗曼·扬波利斯基）在访谈伊始便开门见山，道出了他个人研究历程中的关键转折：“在最初的至少五年里，我致力于解决（AI安全）这个问题。我深信我们能够制造出安全的AI。但越是深入研究，我越发意识到，这其中的每一个组成部分都不是我们实际能够解决的。”他将这种困境比作“分形”——每深入一层，就会发现十个新问题，然后是上百个，而这些新问题不仅难以解决，甚至可能是“不可能解决的”。
Yampolskiy 指出，AI能力的进步正以指数级甚至超指数级的速度发展，而AI安全领域的进展却只是线性或恒定的。二者之间的差距正在急剧扩大。我们至今没有看到任何奠基性的成果能宣称“我们解决了这个问题，不必再担心了”。现有的做法更多是“打补丁”——比如为大型语言模型设置规则，禁止其说脏话或做某些坏事，但这些措施很快就会被“越狱”破解。这就像公司的人力资源手册：你可以规定“禁止性骚扰”，但总会有足够聪明的人找到规则的漏洞，将行为转移到尚未受限的子领域。
当被问及对像 OpenAI CEO Sam Altman（萨姆·奥尔特曼）这样的人物有何看法时，Yampolskiy 态度尖锐。他提到，大约十年前，学界就发表了关于如何正确发展AI的指导原则（护栏），而 OpenAI “违反了其中的每一条”。他认为 Sam Altman 等人是在“将80亿人的生命作为赌注，以换取自己变得更富有、更强大”。他强调，无论谁最终构建出超级智能，“在你切换到超级智能的那一刻，我们都很可能会极度后悔。”
预测时间线：2027年AGI，2030年99%失业，2045年奇点
基于预测市场和顶尖实验室CEO的预期，Yampolskiy 给出了清晰而紧迫的时间线预测。
2027年：我们将迎来AGI。这将带来几乎“免费”的体力和认知劳动力，其价值高达数万亿美元。届时，雇佣人类从事大多数工作将变得毫无意义。任何能在电脑上完成的工作都将被自动化。届时，我们将见证失业率飙升至“前所未有”的水平。
2030年：人形机器人技术将趋于成熟，其灵活性足以与人类在所有领域竞争，包括管道工等体力工作。届时，“智力加物理能力”的结合体将几乎不给人类留下任何工作空间。Yampolskiy 强调，真正的关键在于“智力”，即更高的优化、解决问题和发现人类无法察觉的模式的能力。当这种智力能够直接控制物理身体时，社会将发生翻天覆地的变化。他预计，届时失业率可能达到99%，而非通常认为的10%。
2045年：这是 Ray Kurzweil 预测的“奇点”之年。Yampolskiy 解释，奇点意味着进步速度变得如此之快，以至于AI进行的科学和工程工作改进的速度超出了人类的理解和预测能力。届时，技术迭代可能以天、小时甚至分钟为单位进行，人类将完全无法跟上，对世界的理解和掌控将降至零。
对于“AI会创造新工作”这一常见的反驳论点，Yampolskiy 认为这是一种“范式转换”。过去的技术发明是“工具”，而AI，尤其是AGI和超级智能，是“工人”和“发明者”本身。它是我们可能需要进行的“最后一项发明”，因为它可以接管科学、研究乃至伦理研究的所有过程。当你可以发明一个能胜任任何工作的“代理人”时，就没有什么是不能被自动化的了。
超级智能：无法控制、无法理解、无法预测的黑盒
Yampolskiy 的核心论点是，我们不仅不知道如何让超级智能安全（即“对齐”问题），甚至连理解它都做不到。他反复强调，当前最先进的AI系统，如 ChatGPT，对它们的创造者来说也是一个“黑盒”。
“即使是制造这些系统的人，也必须对他们的产品进行实验，以了解它具备什么能力……我们训练它，然后开始实验：哦，你会说法语吗？你会做数学吗？你现在在对我撒谎吗？……我们仍在旧的模型中发掘新的能力。如果你用不同的方式提问，它会变得更聪明。” 这不再是传统意义上的“工程”，而更像是“科学”——我们创造了一个外星植物般的“人造物”，然后去研究它的行为。
这种“不可解释性”和“不可预测性”导致了根本性的伦理困境。Yampolskiy 指出，要获得人类受试者的知情同意，前提是他们必须理解自己同意的是什么。如果这些系统是不可解释和不可预测的，“他们怎么能同意？他们不知道自己在同意什么。因此，这项实验永远不可能符合伦理。” 他认为，当前的发展路径本质上是对全球人类进行的、未经许可且不道德的实验。
对于“难道我们不能直接拔掉电源吗？”这种天真的想法，Yampolskiy 感到无奈。他指出，像病毒或比特币网络这样的分布式系统是无法被简单“关闭”的。而一个比人类更聪明的超级智能会提前预测人类的行为，做好多重备份，“它会在你关掉它之前先关掉你”。
行业反思与个体应对：我们能做什么？
面对如此严峻的前景，Yampolskiy 提出了一些反思和建议。他认为，驱动力在于个人利益。如果能说服那些拥有权力、正在开发这项技术的人（包括公司员工和投资者），让他们明白这么做对他们个人而言是极其有害的——“你将会死，再多的钱对你也没有用”，那么他们可能会改变行为。
他呼吁行业应专注于开发“狭义超级智能”，即解决特定问题的强大AI工具，例如治愈癌症，而不是竞相奔向不可控的通用超级智能。“我的公司治愈乳腺癌。仅此而已。我们赚了数十亿美元。每个人都很开心，每个人都受益。这是一场双赢。今天我们仍然掌握着控制权……在我们到达终点之前，游戏还没有结束。我们可以决定不去建造通用的超级智能。”
对于普通个体，Yampolskiy 的建议显得有些无奈。在短期内，个人几乎无能为力，就像个人无法影响第三次世界大战或核浩劫一样。但他支持人们以和平、合法的方式参与“暂停AI”、“停止AI”等抗议运动，试图通过民主力量影响决策者。从个人生活规划角度，他建议人们应该“把每一天都当作最后一天来活”，做有趣、有影响力的事情，同时帮助他人。
在被问及如果有一个按钮可以永久关闭世界上所有致力于AGI和超级智能的AI公司时，Yampolskiy 的回答具有启发性：他会选择保留“狭义AI”，因为它们控制着股市、发电厂、医院，关闭它们会导致灾难。但他会毫不犹豫地停止AGI和超级智能的研发。他认为，当前已有技术（弱AGI）99%的经济潜力尚未被部署，足以为世界带来数十年的繁荣发展，完全无需急于奔向无法控制的超级智能。
模拟理论与生命意义
在对话后半段，Yampolskiy 谈到了他深信不疑的“模拟理论”。他认为，一旦技术发展到能够以可承受的成本（比如每月10美元）运行与现实无异的、包含人类级别AI的模拟世界，那么从统计学上看，我们几乎必然生活在一个模拟中。因为模拟世界的数量将远远超过“真实基底世界”的数量。
他将此与宗教联系起来，指出所有宗教的共同点都是相信存在一个比人类更伟大、全知全能的存在，并且这个世界并非终极真实。他认为，模拟假说是宗教内核的现代化、科学化版本。不过，他强调，即使生活在模拟中，生命的体验——疼痛、爱、意义——依然重要，这并不改变我们应当如何生活的本质。
最后，当被问及投资建议时，Yampolskiy 半开玩笑地提到了比特币。他认为，在一个AI能创造丰裕物质的世界里，“稀缺性”将成为关键。比特币是唯一已知确切数量上限且无法被随意创造的资产，因此可能在未来具有独特价值。
整场访谈中，Roman Yampolskiy（罗曼·扬波利斯基）始终保持冷静、理性，甚至略带幽默，但其传达的信息却沉重得令人窒息。他并非散布恐慌，而是基于多年研究，对一条清晰可见的毁灭性路径发出最严厉的学术警告。他的结论是：我们正驾驶着一辆刹车失灵、且无人知道如何操控的列车，全速冲向未知的深渊。现在的问题是，车上的人是否愿意在坠崖前尝试改变方向。
Google DeepMind CEO Demis Hassabis（德米斯·哈萨比斯）：世界模型、AGI 时间表与 AI 驱动的科学革命撰文：Techub News 整理
导语
2025 年 9 月，谷歌 DeepMind 的联合创始人兼 CEO 德米斯·哈萨比斯（Demis Hassabis）做客知名科技播客 All-In Podcast，进行了一场信息量极大的深度对话。作为 AlphaGo、AlphaFold 等里程碑式 AI 项目的核心推动者，以及 2023 年诺贝尔化学奖的共同得主，哈萨比斯一直是全球人工智能领域的灯塔人物。此次对话中，他不仅分享了获得诺奖的幕后故事，更系统地阐述了谷歌 DeepMind 的最新进展、对 AGI（通用人工智能）路径的思考，以及 AI 如何重塑科学、娱乐乃至人类社会的基础架构。在 AGI 浪潮席卷全球、科技巨头激烈角逐的背景下，哈萨比斯的见解无疑具有极高的参考价值。
摘要
世界模型是通往 AGI 的关键一步：Genie 等模型通过海量视频学习“直观物理”，无需预设物理引擎即可生成动态交互世界，这对机器人技术、智能眼镜助手至关重要。
AGI 可能还需 5-10 年：哈萨比斯认为当前 AI 尚缺乏真正的创造力、持续学习和一致性推理能力，需一两个关键突破才能达到真正的通用智能。
AI 将开启“科学新文艺复兴”：从药物发现（Isomorphic Labs）到材料设计、聚变控制，AI 将成为终极科学工具，其长远贡献将远超其当下的能耗。
人形机器人有独特价值：对于需要融入人类环境（家庭、办公室）的通用机器人，人形形态可能比专用形态更具实用性和适配性。
AI 赋能创作的两面性：既极大降低了普通人创作的门槛，也超级赋能顶级专业人士，催生“共同创造”的新娱乐形态。
从 AlphaFold 到诺奖：AI 驱动科学的起点
访谈从哈萨比斯获得诺贝尔化学奖的非凡经历开始。他描述接到来自瑞典的电话时“恍如隔世”，那是每个科学家梦寐以求的时刻。在斯德哥尔摩的颁奖周，最令他震撼的是在一本保存了120年的诺奖得主签名簿上，将自己的名字签在费曼、居里夫人、爱因斯坦、尼尔斯·玻尔等伟人之旁。哈萨比斯坦言，尽管有关于 AlphaFold 可能获奖的传言，但诺奖委员会对保密工作的极致要求，以及奖项更看重科学突破的实际影响力（这往往需要二三十年的沉淀），使得一切直到电话响起前都是未知数。AlphaFold 破解蛋白质结构预测难题，正是哈萨比斯从童年起就怀有的梦想——利用 AI 加速科学发现的完美例证。这枚诺奖奖章，不仅是对他个人和团队的认可，更是标志着 AI 正式成为基础科学发现的核心引擎。
谈及谷歌 DeepMind 在 Alphabet 中的定位，哈萨比斯将其比喻为“整个谷歌和 Alphabet 的引擎室”。自几年前谷歌内部所有 AI 力量（包括原 DeepMind）合并为 Google DeepMind 以来，团队规模已达约 5000 人，其中超过 80% 是工程师和博士研究员。Gemini 是他们构建的核心模型，此外还包括视频模型、交互式世界模型等多种 AI 系统。这些模型已经深度集成到谷歌几乎所有的产品和服务中，从 AI Overview、AI 模式到 Gemini 应用，每天有数十亿用户在与他们的 AI 技术互动。这种“前沿研究”与“数十亿规模落地”的结合，构成了谷歌 DeepMind 独特的优势。
Genie 与世界模型：让 AI 理解物理世界
对话的核心很快转向了谷歌 DeepMind 最新发布的一类革命性模型——“世界模型”，其代表便是 Genie。哈萨比斯现场展示了一段 Genie 生成的视频：用户仅通过一个文本提示（如“在鸡套装里的人”或“喷气式滑艇”），就能生成一个完全交互式的 3D 环境。用户可以使用方向键和空格键实时控制视角，探索这个世界。关键之处在于，所有像素都是实时生成，不存在于任何预设的视频或游戏中。当角色转头看向一个方向，那一侧的景物才被即时创造出来，并且保持物理一致性（例如之前墙上的涂鸦会保留）。
哈萨比斯解释道，Genie 模型通过观看互联网上数百万计的 YouTube 等视频，反向工程了“直观物理”。它并非基于传统的 3D 渲染引擎（如 Unity 或 Unreal），也没有被预先编程物理定律。相反，它纯粹从 2D 图像序列中学会了世界如何运作的复杂规律，包括光影反射、材质流动和物体行为。作为一名在 90 年代曾亲手编写游戏引擎和物理系统的前游戏开发者，哈萨比斯对 Genie 能如此“轻而易举”地完成这一切感到“极其震撼”。
为什么世界模型如此重要？哈萨比斯指出，要构建真正的 AGI，系统必须理解我们周围的物理世界，而不仅仅是抽象的语言或数学世界。这对于机器人技术、智能眼镜助手等应用至关重要。一个能帮助日常生活的智能眼镜助手，必须理解使用者所处的物理环境及其背后的物理规律。世界模型的突破，正是为 AI 系统装上了理解物理世界的“感官”和“常识”。他预测，随着 Genie 这类模型的进化（Gen 4, Gen 5…），它们将越来越逼近对现实世界的深刻模拟。
机器人、AGI 时间线与缺失的拼图
世界模型的自然延伸便是机器人技术。哈萨比斯介绍了他们基于 Gemini 微调而来的“Gemini 机器人模型”。在演示中，一个拥有两只机械臂的桌面机器人，能够理解“把黄色物体放进红色桶里”这样的自然语言指令，并将其转化为精准的动作序列。这体现了多模态模型的威力——它能将真实世界的理解融入与机器人的交互中，而不仅仅是依赖机器人专用的、狭窄的模型。
对于机器人的形态，哈萨比斯的观点发生了变化。他过去认为特定任务应有专用形态的机器人，但现在认为，人形机器人对于需要在人类设计的环境中工作的通用机器人具有重要意义。台阶、门把手、工具——我们的物理世界是为人类身体设计的。与其改变整个世界的设计，不如让机器人适应我们已有的环境。当然，在工业生产线或实验室等特定场景，专用形态的机器人仍是最优解。
关于 AGI（通用人工智能）的到来时间，哈萨比斯给出了相对审慎的估计。他认为当前顶尖的 AI 模型（包括他自己公司的）远非“博士级智能体”。它们在某些任务上表现出博士生水平的能力，但缺乏通用性和一致性，例如可能在高中学的数学或简单计数上犯低级错误。真正的 AGI 应该能全面达到高水平表现。
在他看来，通往 AGI 还缺少几个核心拼图：一是真正的创造力，即像爱因斯坦提出狭义相对论那样，从已知知识中进行“直觉飞跃”，提出全新的猜想或理论；二是持续学习能力，能够在线学习新知识并调整行为；三是更强的推理和一致性。哈萨比斯预测，可能还需要“一两个关键性突破”，时间尺度大约在5到10年。这与行业某些更为激进的预测（如几年内）形成了对比。
科学革命与能源挑战：AI 的长期回报
作为科学家，哈萨比斯始终坚信 AI 最崇高的使命是加速科学发现，应对人类面临的重大挑战。除了 AlphaFold，谷歌 DeepMind 的 AI 系统已应用于材料设计、聚变反应堆等离子体控制、天气预报、解决奥林匹克数学竞赛级别难题等多个科学分支。他领导的 Isomorphic Labs（从 DeepMind 分拆）正致力于基于 AlphaFold 的突破，彻底改革药物发现流程，目标是将耗时数年甚至十年的新药研发周期缩短至几周甚至几天。目前他们已与礼来、诺华等制药巨头合作，并预计明年将有候选药物进入临床前阶段。
针对当前热议的 AI 能耗问题，哈萨比斯认为存在“两个真相”。一方面，谷歌 DeepMind 自身因为需要每天为数亿用户高效提供 AI 服务（如 AI 概述），在模型效率优化上投入巨大，通过蒸馏等技术，过去两年相同性能下的模型效率提升了10倍甚至100倍。但另一方面，为了向 AGI 前沿推进，研究团队仍需不断用更大规模的数据和算力训练新的模型，这会推动总需求上升。他乐观地认为，从长远来看，AI 在优化电网、设计新材料和新能源、应对气候变化等方面的贡献，将远超其自身运行所消耗的能源。AI 是解决问题的手段，而不仅仅是问题的来源。
创作民主化与未来娱乐形态
除了硬核科技，哈萨比斯也展望了 AI 对文化和娱乐的冲击。像 Imagen、Veo 这样的顶级视频生成模型，以及“Nano Banana”这类拥有出色指令跟随一致性的图像生成工具，正在带来“创作民主化”。普通人无需再像过去那样啃读厚厚的 Photoshop 教程，只需用语言描述想法，就能进行创作。
但同时，AI 也在“超级赋能”顶级专业人士。哈萨比斯提到他们正与著名导演达伦·阿伦诺夫斯基等顶尖创作者合作。这些工具让专业创意人士能够以前所未有的速度尝试各种构思，生产力提升十倍甚至百倍，最终更快地实现他们脑海中最完美的愿景。他预见未来将出现一种融合了“共同创造”元素的新娱乐形式或艺术类型：顶级创意愿景家构建引人入胜的动态故事世界，而成千上万的用户可以在其中共同创造部分内容，主创者则扮演这个世界的“总编辑”。
未来十年：一个“科学新文艺复兴”
当被问及对未来十年的展望时，哈萨比斯承认在 AI 领域预测十周都充满挑战，更不用说十年。但他坚信，如果未来十年内我们能实现真正的 AGI，那将开启一个“科学的新文艺复兴”或“黄金时代”。从能源到人类健康，社会的方方面面都将受益于这个终极科学工具带来的突破。这不仅仅是一次技术升级，而是一场深刻重塑人类文明认知边界和能力极限的革命。德米斯·哈萨比斯和他领导的谷歌 DeepMind，正站在这场革命的最前沿。撰文：Techub News 整理 导语 在人工智能浪潮席卷全球的当下，作为该领域最前沿的探索者之一，Google DeepMind 的联合创始人兼首席执行官 Demis Hassabis（德米斯·哈萨比斯）的每一次发声都备受关注。2025 年 6 月，他接受了 WIRED “The Big Interview” 栏目的深度对话。在这场约20分钟的访谈中，哈萨比斯不仅对通用人工智能（AGI）的到来时间给出了明确的概率预测，更围绕 AGI 的定义、当前 AI 系统的局限、地缘政治竞争、AI 安全、未来工作形态以及 AGI 可能带来的“根本性富足”社会等核心议题，展开了兼具技术理性与宏大愿景的阐述。作为将“解决智能，然后用智能解决一切问题”奉为使命的科学家和企业家，他的观点为我们理解 AI 发展的当前坐标与未来轨迹提供了关键视角。 摘要 预测 AGI 有 50% 的可能在未来 5-10 年内实现，但强调当前系统在推理、规划、记忆和真正创造力方面仍有明显缺陷。 指出 AI 发展面临两大核心风险：恶意行为者滥用通用 AI 技术，以及技术本身随着能力增强带来的安全隐患。 认为短期内 AI 将对工作产生“赋能”效应，提升个体生产力，长期则可能重塑就业结构，但护理等需要人类共情的工作难以被取代。 展望若 AGI 发展顺利，人类将进入一个拥有近乎无限清洁能源、解决疾病与资源短缺的“根本性富足”时代，但这需要社会心态从零和博弈转向非零和博弈。 呼吁国际协作与灵活监管，并认为在未知风险面前，科学方法和持续的投入是克服技术挑战的关键。 AGI：五年之约与缺失的能力拼图 访谈始于对 AGI 时间表的探讨。Demis Hassabis（德米斯·哈萨比斯）重申了 DeepMind 自创立之初便秉持的愿景：解决智能，然后用智能解决其他一切问题。回顾这趟约20年的征程，他表示公司“基本完全按计划进行”。当被问及这是否意味着距离人们通常所说的 AGI 仅有五年时，哈萨比斯给出了一个更精确的概率估算：“我认为在接下来的五到十年内，我们有50%的机会拥有我们所定义的 AGI。” 这个预测相较于某些更为激进的同行（如声称两三年内实现）显得相对审慎。哈萨比斯解释，业界目前对 AGI 的定义本身存在争论，时间预测也因此各异。他援引联合创始人兼首席科学家 Shane Legg 早期对 AGI 的定义，强调其核心在于系统能够展现出人类所拥有的全部认知能力。以人类心智为参照，是因为它是我们已知的唯一通用智能存在的证明。 那么，我们离这个目标还有多远？哈萨比斯明确指出当前 AI 系统存在明显的“能力拼图缺失”。无论是大型语言模型还是聊天机器人，在推理、规划、记忆和真正的发明创造力方面尚有不足。“我不认为今天的系统能够进行真正的发明、真正的创造，或是提出新的科学假设。”他举例说明，尽管已有系统（如他们的 AlphaFold）能在国际数学奥林匹克竞赛中达到金牌水准，但同样的系统有时却会在高中数学甚至数单词字母数量上出错。这种在不同领域表现极不一致的现象，恰恰说明现有系统尚未实现完全的泛化能力。 关于 AGI 降临的形式，哈萨比斯认为它更可能是一个渐进的转变，而非突变的阶跃函数。即使技术上实现了 AGI，其对社会和物理世界（如工厂、机器人）的全面影响仍需更长时间，可能长达十年以上才能充分显现。 地缘竞速、安全风险与监管困境 当话题转向激烈的全球 AI 竞赛时，主持人提到了 Eric Schmidt（埃里克·施密特）的“二进制”论调，即若某个国家（如中国）率先获得 AGI，将导致无法追赶的永久性领先优势。哈萨比斯对此表示，这是一个未知数，属于所谓的“硬起飞”情景：如果 AGI 系统能够快速自我改进、自我编码，那么微小的领先优势可能迅速变为天堑。但他也指出，还存在其他可能性，即自我改进的速度并未那么快，那么时间上的接近就不会造成巨大差异。 然而，他着重强调了其中的地缘政治意涵：“正在构建的系统，会带有设计者价值观及其所处文化规范的印记。”因此，谁领先、在何处开展这些项目，不仅关乎商业和国家竞争，也紧密关联着安全考量。他坦言当前领域处于“非常激烈的时期”，资源大量涌入，压力巨大。 哈萨比斯剖白了自己最为担忧的两大风险：一是恶意行为者（无论是个人还是流氓国家）将通用 AI 技术用于有害目的；二是 AI 技术本身的风险——随着其能力越来越强、自主性越来越高，能否确保防护措施足够安全且无法被绕过。这引出了对监管的讨论。当被问及是否仍像几年前一些公司那样呼吁监管时，哈萨比斯给出了肯定的回答，但同时强调了复杂性和国际性。他认为，考虑到地缘政治叠加效应和当今世界的复杂性，“明智的、灵活的监管”至关重要，且这种监管需要能随着研究认知的深入而动态调整。 他进一步指出，真正的挑战在于国际合作。“如果你在一个地区限制它，这对于这些系统为世界和社会构建的整体安全性并无真正助益。”鉴于 AI 是数字系统且将影响所有人，国际间的协作与共识（至少在某些基本原则层面）是更大的难题，但也是必需的。 当被问及是否会因为竞争压力而不得不放弃安全护栏时，哈萨比斯表示，西方主要实验室的负责人和顶尖研究人员之间经常沟通。问题在于，目前缺乏清晰的定义来确定“那个临界点”何时到来。他认为今天的系统尽管令人印象深刻，但也存在诸多缺陷，尚不构成任何生存性风险。风险目前仍是理论上的，但问题在于“未知数太多”——我们不知道风险来临的速度和程度。对此，他持技术乐观态度：“当存在如此多未知数时，我乐观地认为我们能克服它们。”他相信只要有足够的时间、关怀和深思熟虑，运用科学方法，技术挑战是可以解决的，反倒是地缘政治问题可能更为棘手。 但他也清醒地意识到：“我们时间不多了。”因此，DeepMind 正在向安全和可控性研究（如机械可解释性）投入更多资源，同时也认为需要展开更多的社会讨论，探讨机构建设、治理模式以及如何达成国际协议。 赋能、转型与“根本性富足”的未来 谈及 AI 对工作和市场的影响，哈萨比斯引用了经济学家的观察，认为目前尚未看到根本性变化，更多是补充和赋能，例如 AlphaFold 极大地加速了科学家的工作。展望未来五到十年，他预计工作岗位将发生巨变，但历史经验表明，新技术往往会催生新的、通常更好的工作岗位，正如互联网和移动技术带来的变革。他预计未来几年将是“黄金时代”，强大的工具将极大提升个人生产力，甚至在创造力方面让人变得“有点超乎寻常”。 对于 AGI 可能替代所有人类工作的担忧，哈萨比斯认为，即使 AGI 具备所有人类能力，仍有许多事情我们不会想让机器去做。他举了医生和护士的例子：诊断工作或许可以由 AI 辅助甚至替代，但护理工作所需的人类共情和关怀则难以被机器人取代。他建议当下的学生和毕业生积极拥抱这些新系统，深入学习 STEM 和编程以理解其原理，并精通微调、系统提示等技能，从而成为能最大化利用这些工具的“超级生产者”。 展望更远的未来（20-30年后），如果一切顺利，哈萨比斯描绘了一个激动人心的图景：“我们应该处在一个我称之为‘根本性富足’的时代。” AGI 将帮助解决一些社会面临的“根节点”问题，例如治愈疾病、显著延长健康寿命、发现新能源（如优化电池、室温超导体、核聚变）。 他针对主持人关于当前社会分配不公、协作困难的质疑，给出了一个具体例子：水资源获取。海水淡化技术已存在，但因其高能耗而仅限于富裕国家。如果 AGI 推动实现近乎零成本的清洁能源（如核聚变），那么水资源获取问题将迎刃而解，因水资源控制引发的冲突也将大幅减少。类似地，近乎无限的能源也能简化火箭燃料的制造（从海水中分离氢和氧）。 哈萨比斯认为，AGI 将从技术上提供实现“根本性富足”的能力，但他希望这能进一步推动社会心态从零和博弈转向非零和博弈。他承认，如何公平分配“根本性富足”的成果仍是一个挑战，需要哲学家和社会科学家的参与。他甚至预测，在 AGI 之后的时代，经济学本身、价值与货币的概念都可能发生改变，呼吁经济学家更深入地研究相关的新经济理论。 最后，针对社会上对 AI 的担忧和抵触情绪（类似工业革命时期的反弹），哈萨比斯表示理解，并认为这场变革至少与工业革命同等规模，甚至更大。但他用自己的热情作为回应：他构建 AI 的核心驱动力是推动科学和医学进步，解决疾病、气候、能源等重大社会挑战。他举出 AlphaFold（诺贝尔奖级别的突破）及其在药物发现上的应用潜力为例，强调如果人类有能力却不去追求这些解决方案，反而是不道德的。在他看来，面对众多社会挑战，如果没有像 AI 这样革命性的技术即将到来提供助力，他才会对未来感到更加担忧。