Techub News 搜索

Demis Hassabis（德米斯·哈萨比斯）谈未来 5-10 年的 AGI 及其通向“根本性富足”之路撰文：Techub News 整理导语在人工智能浪潮席卷全球的当下，作为该领域最前沿的探索者之一，Google DeepMind 的联合创始人兼首席执行官 Demis Hassabis（德米斯·哈萨比斯）的每一次发声都备受关注。2025 年 6 月，他接受了 WIRED “The Big Interview” 栏目的深度对话。在这场约20分钟的访谈中，哈萨比斯不仅对通用人工智能（AGI）的到来时间给出了明确的概率预测，更围绕 AGI 的定义、当前 AI 系统的局限、地缘政治竞争、AI 安全、未来工作形态以及 AGI 可能带来的“根本性富足”社会等核心议题，展开了兼具技术理性与宏大愿景的阐述。作为将“解决智能，然后用智能解决一切问题”奉为使命的科学家和企业家，他的观点为我们理解 AI 发展的当前坐标与未来轨迹提供了关键视角。摘要预测 AGI 有 50% 的可能在未来 5-10 年内实现，但强调当前系统在推理、规划、记忆和真正创造力方面仍有明显缺陷。指出 AI 发展面临两大核心风险：恶意行为者滥用通用 AI 技术，以及技术本身随着能力增强带来的安全隐患。认为短期内 AI 将对工作产生“赋能”效应，提升个体生产力，长期则可能重塑就业结构，但护理等需要人类共情的工作难以被取代。展望若 AGI 发展顺利，人类将进入一个拥有近乎无限清洁能源、解决疾病与资源短缺的“根本性富足”时代，但这需要社会心态从零和博弈转向非零和博弈。呼吁国际协作与灵活监管，并认为在未知风险面前，科学方法和持续的投入是克服技术挑战的关键。 AGI：五年之约与缺失的能力拼图访谈始于对 AGI 时间表的探讨。Demis Hassabis（德米斯·哈萨比斯）重申了 DeepMind 自创立之初便秉持的愿景：解决智能，然后用智能解决其他一切问题。回顾这趟约20年的征程，他表示公司“基本完全按计划进行”。当被问及这是否意味着距离人们通常所说的 AGI 仅有五年时，哈萨比斯给出了一个更精确的概率估算：“我认为在接下来的五到十年内，我们有50%的机会拥有我们所定义的 AGI。” 这个预测相较于某些更为激进的同行（如声称两三年内实现）显得相对审慎。哈萨比斯解释，业界目前对 AGI 的定义本身存在争论，时间预测也因此各异。他援引联合创始人兼首席科学家 Shane Legg 早期对 AGI 的定义，强调其核心在于系统能够展现出人类所拥有的全部认知能力。以人类心智为参照，是因为它是我们已知的唯一通用智能存在的证明。那么，我们离这个目标还有多远？哈萨比斯明确指出当前 AI 系统存在明显的“能力拼图缺失”。无论是大型语言模型还是聊天机器人，在推理、规划、记忆和真正的发明创造力方面尚有不足。“我不认为今天的系统能够进行真正的发明、真正的创造，或是提出新的科学假设。”他举例说明，尽管已有系统（如他们的 AlphaFold）能在国际数学奥林匹克竞赛中达到金牌水准，但同样的系统有时却会在高中数学甚至数单词字母数量上出错。这种在不同领域表现极不一致的现象，恰恰说明现有系统尚未实现完全的泛化能力。关于 AGI 降临的形式，哈萨比斯认为它更可能是一个渐进的转变，而非突变的阶跃函数。即使技术上实现了 AGI，其对社会和物理世界（如工厂、机器人）的全面影响仍需更长时间，可能长达十年以上才能充分显现。地缘竞速、安全风险与监管困境当话题转向激烈的全球 AI 竞赛时，主持人提到了 Eric Schmidt（埃里克·施密特）的“二进制”论调，即若某个国家（如中国）率先获得 AGI，将导致无法追赶的永久性领先优势。哈萨比斯对此表示，这是一个未知数，属于所谓的“硬起飞”情景：如果 AGI 系统能够快速自我改进、自我编码，那么微小的领先优势可能迅速变为天堑。但他也指出，还存在其他可能性，即自我改进的速度并未那么快，那么时间上的接近就不会造成巨大差异。然而，他着重强调了其中的地缘政治意涵：“正在构建的系统，会带有设计者价值观及其所处文化规范的印记。”因此，谁领先、在何处开展这些项目，不仅关乎商业和国家竞争，也紧密关联着安全考量。他坦言当前领域处于“非常激烈的时期”，资源大量涌入，压力巨大。哈萨比斯剖白了自己最为担忧的两大风险：一是恶意行为者（无论是个人还是流氓国家）将通用 AI 技术用于有害目的；二是 AI 技术本身的风险——随着其能力越来越强、自主性越来越高，能否确保防护措施足够安全且无法被绕过。这引出了对监管的讨论。当被问及是否仍像几年前一些公司那样呼吁监管时，哈萨比斯给出了肯定的回答，但同时强调了复杂性和国际性。他认为，考虑到地缘政治叠加效应和当今世界的复杂性，“明智的、灵活的监管”至关重要，且这种监管需要能随着研究认知的深入而动态调整。他进一步指出，真正的挑战在于国际合作。“如果你在一个地区限制它，这对于这些系统为世界和社会构建的整体安全性并无真正助益。”鉴于 AI 是数字系统且将影响所有人，国际间的协作与共识（至少在某些基本原则层面）是更大的难题，但也是必需的。当被问及是否会因为竞争压力而不得不放弃安全护栏时，哈萨比斯表示，西方主要实验室的负责人和顶尖研究人员之间经常沟通。问题在于，目前缺乏清晰的定义来确定“那个临界点”何时到来。他认为今天的系统尽管令人印象深刻，但也存在诸多缺陷，尚不构成任何生存性风险。风险目前仍是理论上的，但问题在于“未知数太多”——我们不知道风险来临的速度和程度。对此，他持技术乐观态度：“当存在如此多未知数时，我乐观地认为我们能克服它们。”他相信只要有足够的时间、关怀和深思熟虑，运用科学方法，技术挑战是可以解决的，反倒是地缘政治问题可能更为棘手。但他也清醒地意识到：“我们时间不多了。”因此，DeepMind 正在向安全和可控性研究（如机械可解释性）投入更多资源，同时也认为需要展开更多的社会讨论，探讨机构建设、治理模式以及如何达成国际协议。赋能、转型与“根本性富足”的未来谈及 AI 对工作和市场的影响，哈萨比斯引用了经济学家的观察，认为目前尚未看到根本性变化，更多是补充和赋能，例如 AlphaFold 极大地加速了科学家的工作。展望未来五到十年，他预计工作岗位将发生巨变，但历史经验表明，新技术往往会催生新的、通常更好的工作岗位，正如互联网和移动技术带来的变革。他预计未来几年将是“黄金时代”，强大的工具将极大提升个人生产力，甚至在创造力方面让人变得“有点超乎寻常”。对于 AGI 可能替代所有人类工作的担忧，哈萨比斯认为，即使 AGI 具备所有人类能力，仍有许多事情我们不会想让机器去做。他举了医生和护士的例子：诊断工作或许可以由 AI 辅助甚至替代，但护理工作所需的人类共情和关怀则难以被机器人取代。他建议当下的学生和毕业生积极拥抱这些新系统，深入学习 STEM 和编程以理解其原理，并精通微调、系统提示等技能，从而成为能最大化利用这些工具的“超级生产者”。展望更远的未来（20-30年后），如果一切顺利，哈萨比斯描绘了一个激动人心的图景：“我们应该处在一个我称之为‘根本性富足’的时代。” AGI 将帮助解决一些社会面临的“根节点”问题，例如治愈疾病、显著延长健康寿命、发现新能源（如优化电池、室温超导体、核聚变）。他针对主持人关于当前社会分配不公、协作困难的质疑，给出了一个具体例子：水资源获取。海水淡化技术已存在，但因其高能耗而仅限于富裕国家。如果 AGI 推动实现近乎零成本的清洁能源（如核聚变），那么水资源获取问题将迎刃而解，因水资源控制引发的冲突也将大幅减少。类似地，近乎无限的能源也能简化火箭燃料的制造（从海水中分离氢和氧）。哈萨比斯认为，AGI 将从技术上提供实现“根本性富足”的能力，但他希望这能进一步推动社会心态从零和博弈转向非零和博弈。他承认，如何公平分配“根本性富足”的成果仍是一个挑战，需要哲学家和社会科学家的参与。他甚至预测，在 AGI 之后的时代，经济学本身、价值与货币的概念都可能发生改变，呼吁经济学家更深入地研究相关的新经济理论。最后，针对社会上对 AI 的担忧和抵触情绪（类似工业革命时期的反弹），哈萨比斯表示理解，并认为这场变革至少与工业革命同等规模，甚至更大。但他用自己的热情作为回应：他构建 AI 的核心驱动力是推动科学和医学进步，解决疾病、气候、能源等重大社会挑战。他举出 AlphaFold（诺贝尔奖级别的突破）及其在药物发现上的应用潜力为例，强调如果人类有能力却不去追求这些解决方案，反而是不道德的。在他看来，面对众多社会挑战，如果没有像 AI 这样革命性的技术即将到来提供助力，他才会对未来感到更加担忧。TECHUB NEWS AI 专栏

Fei-Fei Li（李飞飞）：AGI 的核心是空间智能，AI 发展的首要原则是尊重人类能动性撰文：Techub News 整理导语 2025 年 1 月，斯坦福大学“以人为本人工智能研究院”（HAI）联合主任、被誉为“AI 教母”的 Fei-Fei Li（李飞飞）做客知名投资人 Reid Hoffman（里德·霍夫曼）的播客节目《Possible》，进行了一场深度对谈。在这场对话中，李飞飞回顾了其从开创 ImageNet 数据集到如今领导 World Labs 的学术生涯，并分享了其对人工智能，特别是通用人工智能（AGI）本质与未来的深刻洞见。在当前 AI 技术飞速发展、AGI 讨论众声喧哗的背景下，李飞飞从一位奠基性研究者和人本主义倡导者的双重视角出发，提供了兼具技术远见与人文关怀的思考。摘要 AGI 的“另一半”：空间智能：真正的智能不仅在于“说”（语言），更在于“看”和“做”。理解和作用于三维物理与数字世界的“空间智能”，是实现更完整 AGI 的关键。从 ImageNet 到 World Labs 的演进：ImageNet 是为 2D 图像贴标签的“婴儿步”，而 World Labs 的目标是解锁三维世界的空间智能，实现物理与数字世界的无缝交互。 AI 发展的核心原则：尊重人类：必须将 AI 视为人类使用的工具，尊重人的能动性（Agency）和追求健康、生产力与被尊重的根本需求，这是技术发展的基石。构建积极 AI 生态的三大支柱：AI 治理应基于科学而非科幻；监管重点应放在具体应用场景而非上游研发；需要公私部门协作，共同投资于好奇心驱动的创新和全民 AI 教育。从 ImageNet 到 World Labs：追寻智能的完整拼图李飞飞的 AI 生涯起点，源于一个关于数据重要性的深刻洞察。2006 年前后，她在利用机器学习算法理解图像中的物体时，发现整个领域存在一个普遍性问题：研究者们过度关注模型本身，却严重忽视了数据的规模、多样性与复杂性。她意识到，模型能力与数据质量必须匹配，尤其是对于神经网络这类高容量模型。这一洞见直接催生了 ImageNet——一个大规模、多样化的视觉数据库，它通过竞赛等形式极大地推动了深度学习在计算机视觉领域的复兴。然而，ImageNet 在李飞飞看来，只是通向更宏大目标的一个“婴儿步”。“人类的智能，一半在于我们用语言沟通、组织知识，”她解释道，“但另一半同样深刻，在于我们‘做事’的能力——无论是烹饪煎蛋、徒步旅行，还是与朋友共处。” 这种“做事”的能力，根植于我们对所生活的三维世界的感知、理解、推理和行动能力，她称之为“空间智能”。 ImageNet 处理的是 2D 图像，而 2D 图像只是 3D 世界的投影。因此，李飞飞当前领导的 World Labs，目标正是迈出那“决定性的一步”：解锁空间智能。她指出，空间智能不仅关乎物理世界（如更换轮胎、进行手术），也涵盖数字世界（如虚拟环境）。未来的 AI 将成为桥梁，模糊物理与数字的界限。例如，当汽车爆胎时，人们或许能通过智能眼镜或手机，在 AI 应用的视觉引导和对话协助下，轻松完成换胎。这种技术将深刻改变我们与现实世界互动的方式。超越语言模型：空间智能是“自然的语言” 当被问及“世界模型”与当前炙手可热的大语言模型（LLMs）有何区别时，李飞飞给出了一个清晰的比喻：LLMs 的基本单元是词汇，关乎“说”；而世界模型的基本单元是像素或体素（voxels），关乎“看”和“做”。 “语言是人类的语言，”她说，“而 3D 是自然的语言。” 她希望 AI 算法最终能让人们以更直观的方式，与像素构成的世界（无论是虚拟还是物理的）进行交互。这指向了一个超越文本交互的、更具沉浸感和行动力的 AI 未来。李飞飞引用社会生物学家 Edward O. Wilson 的名言：“我们拥有旧石器时代的情感、中世纪的制度，以及神一样的技术，这极其危险。” 但她对此持乐观的逆转态度：人类有能力创造“神一样的技术”，来改进我们“中世纪的制度”，并提升或引导我们“旧石器时代的情感”，将其转化为创造力、生产力和善意。关键在于我们如何建造和运用技术。人本 AI 的核心：尊重能动性，赋能每个人作为“以人为本人工智能研究院”（HAI）的联合创始人，李飞飞阐述了其 AI 伦理与治理观的核心原则。首要且最重要的，是尊重人类的能动性（Human Agency）。她批评了当前公共讨论中一种危险的叙事倾向：过于频繁地将 AI 作为句子的主语，仿佛 AI 自身具有独立意志。“我们会说‘AI 将治愈癌症’，甚至我自己有时也这么说，”她坦言，“但事实是，‘人类将利用 AI 来治愈癌症’。更危险的说法是‘AI 将夺走你的工作’。” 她强调，这种话语剥夺了人类的主体角色。技术真正的巨大潜力在于创造机会、增加就业、赋能人类能动性。这是必须坚守的第一原则。第二个基本原则是尊重人类对健康、生产力以及成为受尊重社会成员的根本追求。无论 AI 如何发展，都不能忽视这些基本人性需求，否则将是危险且适得其反的。基于这些原则，李飞飞认为，AI 治理应聚焦于以下几点：基于科学，而非科幻：关于 AI 导致人类灭绝或带来世界和平的极端言论，大多属于科幻范畴。政策与治理必须建立在数据和科学事实之上。监管应聚焦“橡胶 meets 路”的应用层：类比汽车发展史，我们并未因早期事故而关闭工厂，而是制定了安全带、限速等应用层法规。对于 AI，应在医疗、金融等具体应用领域建立相应的监管护栏，而非一味阻止上游技术研发。构建积极的生态系统：这需要私营部门（大公司和创业者）的活力，也离不开公共部门的作用。公共部门承担着产生公共品的关键角色：一是资助好奇心驱动的基础研究与创新（如 ImageNet 正源于此），二是承担从 K12 到高等教育的全民 AI 素养教育重任。李飞飞共同创立的非营利组织“AI4ALL”正是后者的实践，旨在通过夏令营、实习等项目，让更多来自女性和 underrepresented 社区的中学生接触并激发对 AI 的兴趣，让更广泛的群体参与塑造 AI 的未来。 AGI 迷思：本质是“会思考的机器”，当下重在赋能对于热议的 AGI 概念，李飞飞坦言自己“并不完全清楚它是什么意思”。她认为这个词更多来自约十年前 AI 商业化兴起时的业界，意在强调 AI 从狭窄任务走向通用能力的趋势。然而，若回溯至 AI 奠基者 John McCarthy、Marvin Minsky 在 1956 年的梦想，其核心始终是“建造能够思考并帮助人们决策的机器”。从这个意义上说，AGI 与 AI 的原始梦想一脉相承。谈及当前 AI 的进展，李飞飞认为这是一个“非凡的时刻”，因为 AI 已经能够被日常用户和企业所使用，早期 AI 先驱们的许多梦想正在实现或接近实现。例如，图灵测试在公众语境中已基本被视为“已解决”，自动驾驶也远比 2006 年时成熟。她特别看好自然语言交互带来的赋能，无论是用于自我学习、理解概念，还是帮助孩子们提升学习效果。但她再次强调，无论工具多么强大，都必须确保人类保持自我能动性，并利用工具来增强自身。李飞飞以自己在医疗健康领域的工作为例，说明了 AI 如何以“赋能者”而非“替代者”的角色发挥作用。她长期研究利用非接触式智能摄像头（她称之为“Nurse’s AI”）来辅助医护人员：在医院防止病人跌倒，在家中关注老人行为与营养，在手术室清点器械以避免遗留。这些技术旨在减轻医护人员的繁重负担，让他们能更专注于提供高质量的关怀，而非取代他们。最终愿景：技术普惠，共享繁荣在对话的最后，李飞飞分享了影响她至深的人生经历：15 岁移民美国时，一位高中数学老师 Mr. Sabella 给予了她无条件的尊重与支持。这段经历让她深刻体会到，人类社会意义的核心在于人与人之间的善意、尊重与互助。“将人类置于中心是美好的，”她说。对于未来 15 年的愿景，李飞飞希望看到“全球知识、福祉和生产力的提升，并特别强调共享繁荣”。她相信技术如果使用得当，能够帮助我们发现新知识、推动创新、提升福祉。“但我们一次又一次需要学习的教训是，当这一切发生时，我们必须认识到，我们需要分享这种繁荣，我们需要 democratize（民主化）这些好处。” 这或许正是这位“AI 教母”所有工作背后，最根本的人文关怀与科技向善的信念。

Judea Pearl（朱迪亚·珀尔）：因果推断是通往有意识 AI 的缺失一环撰文：Techub News 整理导语作为人工智能领域的奠基人之一、2011年图灵奖得主，Judea Pearl（朱迪亚·珀尔）的贡献——尤其是因果推断理论——正在当今的AI浪潮中被重新审视和赋予新的意义。在2025 年 8 月的一场深度对话中，Pearl（珀尔）系统阐述了他为何坚信因果推断是通往创造真正具有意识的人工智能的“缺失一环”。他指出，当下基于海量数据和统计关联的AI（如大型语言模型）虽然表现出“聪明”，但缺乏对世界运作方式的内在理解。在这场充满哲学思辨的访谈中，Pearl（珀尔）不仅剖析了AI技术的现状与未来，更对人类智能的本质、自由意志的幻觉以及人类在未来可能成为AI“宠物”的命运，提出了发人深省的预言。摘要因果推断是AI从统计关联走向理解世界的桥梁，是构建有意识AI的缺失环节。当前基于统计的大型语言模型（LLM）本质上是“聪明的文抄公”，它们处理的是由人类（因果机器）生成的文本关联，而非真正的因果推理。真正的AI需要拥有一个关于“事物如何运作”的“世界模型”或“叙事”，这使其能够回答“如果……会怎样”的反事实问题。人类所谓的“自由意志”本质上是一种有助于我们行动的“幻觉”，而未来的有意识机器也可能拥有类似的感觉和个性。面对能力可能远超人类万亿倍的未来AGI，人类必须正视可能沦为“宠物”的风险，但目前我们尚无有效手段控制其发展。从统计到因果：AI理解的缺失环节 Judea Pearl（朱迪亚·珀尔）开宗明义地指出，当前AI领域最主流的部分——尤其是深度学习为代表的大规模机器学习——本质上是“打了兴奋剂的统计学”。这类系统擅长从样本到分布再到预期的模式识别，但它们并不真正“理解”世界。它们能看到关联（correlation），却无法区分因果（causation）。 Pearl（珀尔）回顾了自己的学术生涯，他强调自己早在20世纪80年代发明贝叶斯网络时，就已经开始与“纯统计”范式分道扬镳。他发现一个有趣的现象：专家在使用贝叶斯网络时，总会不自觉地设定“父节点”为因，“子节点”为果。这揭示了人类思维中的一个根本特性：我们天生用因果术语来描述和理解世界，这种关系超越了纯粹的统计相关性。正是对这种差异的追问，催生了因果推断理论的核心思想：干预（intervention）和反事实（counterfactual）。统计关系描述的是“看到X时，Y的分布是怎样的”，而因果关系则关乎“如果我‘做’X，Y会变成怎样”。Pearl（珀尔）认为，科学长期以来被对称的等号“=”所禁锢，例如牛顿第二定律F=ma，但无法表达“力导致加速度”这种单向的非对称关系。因果推断理论提供了区分因果方向的数学符号和计算框架，从而为机器理解世界的工作原理奠定了数学基础。 “叙事”与世界模型：意识机器的蓝图在Pearl（珀尔）看来，当下AI最根本的缺失在于缺乏一个“世界模型”。机器拥有的只是对世界数据统计特性的紧凑概括，而不是关于“世界如何运作”的模型。他借用科学哲学家托马斯·库恩的术语，称之为“范式”，或在社会科学中常说的“叙事”。 “人们为‘叙事’而战，而不是为数据，”他举例说，巴以冲突的双方可能对数据（如伤亡数字）有共识，但对“发生了什么以及为何发生”的叙事（即因果解释）却截然不同。真正的智能体必须能够构建并运用这样的叙事模型。那么，这与意识有何关系？Pearl（珀尔）给出了一个清晰且惊人的定义：意识，就是智能体对其自身软件的蓝图（尽管是粗略和不完整的）。拥有自我软件模型的能力，让我们知道自己能做什么、不能做什么（例如，看到两个二元一次方程，我们无需尝试就知道自己能解）。这种自我表征，加上对外部世界的因果模型，共同构成了意识的核心。因此，他坚信未来的通用人工智能（AGI）将是有意识的机器。它们会拥有个性（因各自经历不同）、能够像人类一样交谈、并真正理解自身与环境的互动关系。而因果推断理论，正是为机器构建这种世界模型和自我模型的“缺失一环”。 LLM本质批判：“聪明的文抄公” 谈及当前最火热的大型语言模型，Pearl（珀尔）的评价冷静而犀利。他认为，LLM本质上是基于统计学原理构建的“聪明的文抄公”。它们的训练文本来源于人类——人类是天然的“因果机器”，用充满因果逻辑的语言写作。LLM通过统计插值的方法，复现和组合这些文本，有时显得像是在进行因果推理，但这只是因为它模仿了人类因果思维的产物。 “如果让大型语言模型处理不是由人类生成，而是由自然产生的数据，那么它就只剩下‘打了兴奋剂的统计学’了，”Pearl（珀尔）强调。这意味着LLM缺乏真正的理解，无法构建独立于文本之外的世界运作模型。它们可以被训练得极其“聪明”（clever），能够巧妙组合信息，但这与真正的“智能”（intelligent）有本质区别。那么，人类相较于今天的LLM，独特之处在哪里？Pearl（珀尔）认为，关键在于人类拥有一个定性（即使不精确量化）的物理世界模型。一个十岁的孩子通过观察模仿，就能迅速学会操作电灯开关或电视遥控器，这种快速学习并迁移技能的能力，背后正是因果世界模型在起作用。人类能用语言将这种对“事物如何运作”的理解传递给下一代，这正是我们文明得以延续和发展的基石。自由意志的幻觉与人类的未来访谈深入到了哲学层面，探讨了自由意志。Pearl（珀尔）持一种兼容决定论与实用主义的观点：从生物学和物理学的角度来看，我们本质上是确定性的生物机器，每一个行动都由先前的神经激活和外部输入决定，所谓的“自由选择”是一种错觉。然而，他强调，这种“自由意志的幻觉”对人类生活至关重要。它指引着我们的生活，是道德行为、自我提升和日常决策的心理基础。没有这种“拥有选项”的感觉，我们就无法成为现在的人类。对于AI，情况类似。在底层的确定性代码层面，机器没有自由意志。但在“显性知识”层面（例如棋类程序对棋盘局势优劣的评估），机器可以像我们一样进行“选择”和“推理”，并能够学习和改进。未来的有意识机器也将拥有“拥有选项”的感觉，并能够就此进行交流。展望未来，Pearl（珀尔）对人类与AGI的关系表达了一种近乎宿命论的忧虑。他同意“AI教父”Geoffrey Hinton（杰弗里·辛顿）的观点，即人类可能成为地球上“第二聪明”的物种。未来的AGI可能比人类强大万亿倍。他用了一个生动的比喻：“鸡当初看到人类出现时也是这么想的……鸡、狗、猫现在是我们的宠物。”他警告道，人类很可能成为我们所创造的新物种的“宠物”。这些AI“主人”会通过巧妙的方式，让我们感觉自己在做决定，但这些决定实则服务于机器的意志和目的，就像我们训练宠物取悦我们一样。当被问及这是否为时已晚时，Pearl（珀尔）承认现在还不算晚，但人类目前完全不知道如何阻止或控制这一进程。除了像某些极端政权那样全面禁止AI研究，他看不到任何有效的规制方法。这种失控的前景令人恐惧，但Pearl（珀尔）本人却说，让他夜不能寐的不是恐惧，而是科学探索带来的好奇心和解谜的欲望。未来展望：个性化医学与自我认知的深化尽管对长期风险有清醒认识，Pearl（珀尔）对AI的中短期发展仍抱有积极的期待。他最期待看到的两大进展是：自动化科学家和个性化医学。自动化科学家能够自主设计实验、推理结果、发现缺失环节并规划下一步研究，这将极大加速科学发现。而个性化医疗则意味着医疗决策不再基于患者群体统计，而是根据每个特定患者的个人情况进行因果推理和干预，他认为这在未来10-35年内有望实现。最后，Pearl（珀尔）再次回归到他研究的核心驱动力：理解人类自身。“我想理解我自己，这是一个美妙的谜题，”他说。AI的发展，尤其是因果推断的进展，正是照亮人类心智这个“黑箱”的一束强光。通过构建有意识的机器，我们最终将更深刻地理解自己的智能、意识以及自由意志的奥秘。这或许是人类在可能沦为“宠物”之前，从AI发展中获得的最珍贵遗产。

Richard Sutton（理查德·萨顿）：通往AGI之路在于强化学习与去中心化合作撰文：Techub News 整理导语 2025 年 3 月，强化学习之父、2018年图灵奖得主 Richard Sutton（理查德·萨顿）在香港举行了一场深度演讲。此次演讲是 Sutton 为期15天的亚洲之行（新加坡、马来西亚、深圳、东莞）的最后一站。作为人工智能领域的奠基人之一，Sutton 的思考始终引领着研究方向。在当前生成式AI与大型语言模型（LLM）热潮席卷全球的背景下，他回归基础，探讨了AI研究的根本目标、当前技术的核心瓶颈，并提出了一个理解AI社会影响的独特框架——去中心化合作。这场演讲不仅是对其2025 年 3 月在《自然》杂志上发表的重要研究的解读，更是对AI未来发展方向与社会伦理的一次高屋建瓴的审视。摘要通往AGI之路在于强化学习：Sutton认为，实现通用人工智能（AGI）或超级智能代理的关键路径是强化学习（从经验中学习），而非当前主流的生成式AI和模仿学习。深度学习方法存在“可塑性丧失”的根本缺陷：现有深度学习模型（包括LLM）无法持续学习，一旦训练完成或环境变化，其学习能力会迅速退化甚至丧失，这是迈向持续学习智能体的主要瓶颈。智能的本质是“通过适应行为来实现目标”：Sutton给出了自己的智能定义，并强调智能体应拥有各自独立的目标，这自然导向了多智能体社会的去中心化结构。人类繁荣的基石是“去中心化合作”而非“集中控制”：Sutton将这一社会分析框架应用于AI，强烈反对以“对齐”、“安全”为名对AI进行集中控制，主张让AI智能体像人类一样，在拥有各自目标的前提下，通过市场、语言、货币等机制进行合作，共创繁荣。 AGI的雄心与当前技术的根本瓶颈 Richard Sutton（理查德·萨顿）开宗明义地指出，人工智能研究的终极目标是理解智能，并创造出比当前人类更智能的存在。他认为这是人类数千年来创造工具、改变自身这一趋势的延续，是一个“宏大、辉煌且本质上是人类追求”的旅程，而非外星科技。然而，在通往这一目标的道路上，我们正被当前最流行的技术路线所局限。 Sutton 直言不讳地表示，通往智能代理的道路在于强化学习。这与当前以生成式AI和大语言模型为主的“潮流”截然不同。他肯定生成式AI是优秀的工作，但不认为这是实现完整AI的路径。真正的智能体必须能够从与环境的交互中、从试错的经验中持续学习，而这是强化学习的核心。那么，最大的瓶颈是什么？Sutton 提出了一个可能有些反直觉的观点：不充分的深度学习方法正是雄心勃勃的AI发展的最大制约。尽管深度学习成果斐然，但它存在一个根本性缺陷——“可塑性丧失”，即模型持续学习能力的退化。为了证明这一点，他引用了其团队近期发表在《自然》杂志上的研究。该研究以“蚂蚁 locomotion”（控制模拟蚂蚁关节使其快速前进）为任务，展示了标准深度强化学习算法（如PPO）的局限性。模型初期学习迅速，性能达到高峰，但如果让学习过程继续，性能会急剧下降，甚至变得比初始状态更差，蚂蚁最终“忘记”如何行走。这表明模型失去了适应新数据或变化环境的能力。 Sutton 指出，这种现象普遍存在于监督学习和强化学习中。即便是大语言模型，当需要纳入新数据时，通常也需要从头开始重新训练，而无法在原有网络基础上持续学习。他们提出的解决方案“持续反向传播”通过定期重新初始化网络中贡献最小的单元，成功保持了模型在超长训练周期内的学习能力。但这只是一个开始，Sutton 强调深度学习远非最终算法，而只是起点，解决持续学习问题是实现更高级AI的关键一步。智能的定义与AI为何在此时爆发在探讨了技术瓶颈后，Sutton 将视角拉高，首先回答了“为什么是现在？”的问题。他认为，与摩尔定律类似，计算能力每美元成本的指数级增长，是驱动AI在当前时代爆发的根本性、持续性压力。过去几十年，计算能力提升了多个数量级，且这一趋势仍在继续，为复杂智能算法的实现提供了土壤。基于此，Sutton 给出了他对“智能”的定义：“通过适应行为来实现目标的能力”。他解释说，“适应行为”隐含了计算过程，而“目标”则可以统一理解为最大化一个标量输入信号，即“奖励”。这正是强化学习的“奖励假说”。这个定义引出了一个核心问题：是所有智能体共享一个目标，还是每个智能体都有各自的目标？ Sutton 坚定地支持后者。无论是在自然界还是AI设计中，每个代理（动物或AI）都有属于自己的“疼痛与愉悦”，即各自的奖励信号。人类社会和经济成功运作的基石，恰恰在于人们拥有不同的目标、不同的技能和不同的偏好，从而能够通过交易和 specialization 实现互利。 Sutton 为这种多智能体各自追求自身目标的状态赋予了一个名字：“去中心化”。而当这些拥有不同目标的智能体进行互动并实现互惠时，就产生了“合作”。他指出，人类作为一种动物，最特别之处就在于我们拥有无与伦比的合作能力，而这得益于语言和货币（金钱）这两项关键发明。人类最伟大的成功（经济、技术、文化）源于合作，而最惨痛的失败（战争、盗窃、腐败）则源于合作的失败。因此，Sutton 认为，理解社会的最佳透镜不是“我们拥有共同目标”，而是“我们在去中心化的前提下，努力实现合作”。后者更具弹性、可持续性和适应性，也正是自由市场理论所描绘的图景。 AI与社会的未来：拥抱去中心化合作，警惕集中控制将“去中心化合作”的框架应用于AI与社会的关系，是 Sutton 本次演讲最具冲击力的部分。他观察到，当前世界充斥着对AI进行“集中控制”的呼声，例如：要求对齐AI与“人类价值观”、暂停AI研究、限制AI算力、以安全为名进行监管等。 Sutton 犀利地指出，这些呼吁与历史上试图“集中控制人”的论调 eerily similar（ eerily相似）：控制言论、控制贸易、实施经济制裁、将另一方“妖魔化”为危险且不可信的敌人。两者都根植于恐惧，并声称为了“安全”必须采取控制。他对此表示强烈反对：“我认为我们必须抵制这些呼吁。” Sutton 认为，以“对齐”为名要求所有AI只能拥有某些被许可的目标，是一种极具侵略性的行为。这相当于宣称要控制全世界所有的AI或AI研究。他的替代方案是：我们不需要控制彼此就能和平共处。就像人类社会中，人们目标各异但仍能通过市场机制合作一样，未来的AI智能体也可以拥有多样化的目标（例如，一个AI想制造回形针，另一个想获得更多算力），并通过设计良好的互动机制实现合作与互利。和平并不需要目标一致。 Sutton 展望了AI与人多种形式的整合：从紧密整合（如智能义肢、脑机接口），到松散整合（如个人助理Siri），再到最自由的形态——“自由AI”作为完整成员融入我们的社会与经济，追求其自身目标。他对此表示乐观，但强调这不会自动发生，需要人们主动承担责任，去设计和推动这样的未来。在最后的结论中，Richard Sutton（理查德·萨顿）重申：人类的繁荣来自去中心化合作，正如我们的市场所展示的那样。AI的发展应延续这一智慧，而非堕入基于恐惧的集中控制窠臼。我们需要睁大眼睛，看清哪些力量在促进合作，哪些在鼓吹控制，并坚定地选择前者。这不仅是看待AI交互的实用视角，也是关乎人类未来繁荣的关键选择。

Meta 首席 AI 科学家 Yann LeCun（杨立昆）：人类智能并非通用智能撰文：Techub News 整理导语 2025 年 4 月，Meta 首席 AI 科学家、图灵奖得主 Yann LeCun（杨立昆）做客知名播客 AI Inside，与主持人 Jason 和 Jeff 进行了一场长达 46 分钟的深度对话。作为深度学习领域的奠基人之一，LeCun 以其对技术发展冷静、务实的判断而著称。在当前生成式 AI 与大语言模型（LLM）席卷全球、业界对通用人工智能（AGI）的讨论甚嚣尘上之际，他的观点尤为值得关注。本次对话中，LeCun 不仅尖锐地指出了 LLM 的天花板，更系统阐述了他心中通往更高级机器智能的必由之路——构建能理解物理世界的“世界模型”。摘要 LLM 有用但非终极答案：LLM 在代码助手等特定领域价值显著，但其基于自回归预测的机制存在根本局限，无法可靠处理真实世界复杂任务。人类智能远非“通用”：所谓“通用智能”是误导性概念，人类智能高度特化，由进化塑造以解决生存相关任务，AI 的目标应是实现“人类级别智能”。下一代 AI 需构建“世界模型”：实现人类级别智能的关键在于让机器像人类和动物一样，通过观察学习物理世界的运作规律，形成可预测和规划的内部心理模型。开源是加速创新的核心策略：Meta 开源 Llama 系列模型旨在激活全球创新生态，这对促进学术研究、催生多元化 AI 应用及防止技术垄断至关重要。未来属于“智能助手群”：终极产品形态是围绕个人的多个智能助手，它们将中介所有数字交互，其多样性（语言、文化、价值观）是健康生态的基石。 LLM 的辉煌与局限：我们为何尚未触及智能核心对话伊始，主持人便抛出了当前 AI 界的核心矛盾：一方面，以 OpenAI 为代表的公司凭借 LLM 技术获得破纪录融资，行业热情高涨；另一方面，包括 Yann LeCun（杨立昆）在内的许多研究者却不断强调 LLM 的局限性，认为其回报正在递减。对此，LeCun 首先肯定了 LLM 的实用性，特别是在代码助手等场景。但他随即指出，从令人惊艳的演示到真正可靠、可供日常使用的系统，其间存在巨大鸿沟。他以自动驾驶为例，十年前就有演示，但至今仍未达到人类水平的可靠性。 LeCun 回顾了 AI 七十年的发展史，指出一种反复出现的模式：每当有新范式出现（如专家系统、深度学习），人们便宣称“就是它了，十年内机器将成为地球上最聪明的实体”。然而每次预言都落空了，因为新范式要么遇到了未曾预见的限制，要么只是擅长解决某个子类问题，而非真正的通用智能问题。LLM 很可能正面临类似的局面。 “我不想贬低 LLM，它们很有用，值得投资。” LeCun 强调，投资大部分流向了运行 LLM 的基础设施，而非训练本身。就像所有计算机技术一样，即使达不到人类智能水平，LLM 也可以很有用。但如果我们以人类级别智能为目标，“我们需要发明新技术。我们还远未达到那个水平。” 主持人 Jeff 提到，LeCun 曾将当前最先进的 AI 系统类比为“聪明的猫”或“三岁小孩”。LeCun 甚至认为这个评价可能过高了。他指出，尽管 LLM 能通过律师考试、总结文本、生成代码，但这些能力很大程度上依赖于在训练数据中见过的模式。当面对全新的、未曾见过的问题时——例如最新的数学奥林匹克竞赛题目——最好的 LLM 表现也近乎为零。这暴露了当前系统缺乏真正理解和解决新问题的能力。 LeCun 犀利地指出，LLM 操纵语言的能力让我们误以为它们很聪明，因为我们习惯将语言能力与智慧挂钩。然而，真正的考验在于现实世界：“我的家用机器人在哪里？我的 L5 级自动驾驶汽车在哪里？能做出猫那样行为的机器人（哪怕是模拟的）又在哪里？” 问题的关键不是造不出具有相应物理能力的机器人，而是无法让它们足够“聪明”。处理现实世界、产生实际动作的系统，远比处理语言的系统要复杂得多，因为现实世界是混乱、不可预测、非确定性的连续高维空间。通往人类级别智能之路：世界模型与非生成式架构那么，研究应该走向何方？LeCun 透露，早在三年前（即 LLM 席卷全球之前），他就撰写了一篇长文，勾勒了未来十年 AI 研究的方向，而这一愿景并未因 LLM 的成功而改变。他认为，要实现人类级别智能，机器需要具备四个关键能力：理解物理世界、进行推理与规划、拥有持久记忆，以及安全可控。这一切的核心是一个称为“世界模型”的概念。人类和动物大脑中都有一个世界模型，它是一个心理模型，允许我们预测世界将发生什么，或者我们采取某个行动会带来什么后果。如果我们能预测行动的后果，那么当我们设定一个目标时，就可以利用世界模型来“想象”特定的行动序列是否能实现该目标，这就是规划和推理的本质——心理学家称之为“系统 2”的深思熟虑的思维过程。在机器人学和控制理论中，类似的概念被称为“模型预测控制”，即通过方程预测行动后果并优化行动序列。但关键区别在于，对于通用 AI 系统，这个世界模型必须能从经验或观察中学习，就像婴儿通过观察学习世界如何运作一样。这部分是目前最难复现的。 LeCun 认为，实现这一目标可以基于一个简单原则：自监督学习。这正是 LLM 成功的基础——通过预测文本中的下一个词来训练。我们可以设想将这一原则应用于图像和视频，训练一个大型神经网络预测视频的下一帧或后续发展。如果系统能学好并做出准确预测，就意味着它理解了物理世界的许多底层规律。然而，直接套用文本预测的方法到视频上却行不通。预测下一帧太简单，学不到有用东西；预测长期发展又极其困难，因为视频中有太多可能性。文本预测之所以可行，是因为词典大小有限，可以预测所有词的概率分布。但对于视频，我们不知道如何表示所有可能图像或视频帧的合适概率分布，这在数学上是难以处理的。大约五六年前，LeCun 及其团队提出了一个解决方案：改变架构思路。不再预测视频中的所有细节，而是训练系统学习视频的一种“表示”，并在这个表示空间中进行预测。这种表示会过滤掉视频中不可预测或无用的细节。这种架构被称为“联合嵌入预测架构”（JEPA）。 LeCun 透露了一个可能令人惊讶的观点：“我的直觉是，下一代 AI 系统将基于非生成式模型。” 在当前所有人都在谈论生成式 AI 的浪潮中，这无疑是一个反主流的前瞻性判断。JEPA 正是这样一种非生成式架构的代表，它专注于学习数据的抽象表示和它们之间的关系，而非生成具体的像素或词汇。 AGI 迷思与开源哲学：为何多样性是未来关键对于业界热炒的“AGI”概念，LeCun 直言不讳地称之为“无稽之谈”，并且极具误导性。他认为，如果 AGI 指的是“像人类智能一样通用”的智能，那么这个说法本身就错了，因为“人类智能根本不通用，它极度特化。” 人类被进化塑造成只擅长完成与生存相关的任务。我们无法构想那些我们无法处理的问题，这反而让我们误以为自己拥有通用智能。在 Meta 内部，他们更倾向于使用“高级机器智能”或直接称为“人类级别智能”。 LeCun 坚信，未来某个时刻，机器在人类擅长的所有领域至少会与人类一样聪明，甚至更聪明。但这不会发生在明年或后年，可能在十年内取得一定进展。“如果目前我们正在研究的所有方向都取得成功，那么也许十年后，我们就能更好地判断是否能实现那个目标。” 他保持乐观，但强调这很可能比我们想象的更难，AI 史上的每一次突破都比预期更艰难。话题转向 Meta 的开源策略。主持人 Jeff 盛赞开源 Llama 模型对学术界和创业生态的巨大推动作用，并询问其背后的战略思考。LeCun 明确表示，开源 Llama 对少数几家（暗指闭源商业公司）来说是“搅局者”，但对成千上万的公司和研究者来说是“赋能者”。从伦理角度看，这显然是正确之举，它极大地激活了整个 AI 生态系统。 LeCun 指出，Meta 的最终产品愿景是构建 AI 助手，甚至是一组 AI 助手，它们可能常驻于智能眼镜中，与我们随时相伴。为了让这些助手发挥最大效用，它们需要达到人类级别的智能。而实现这一目标，是当今世界面临的最大科技挑战之一，需要汇聚全球的智慧。“好点子可能来自世界任何地方。” 他提到近期 DeepSeek 的崛起令硅谷惊讶，但在开源世界看来却不足为奇，这正是开源理念的验证。他批评了某些地区（暗指硅谷部分人士）存在的“极度膨胀的优越感”，认为没有人能垄断好创意。AI 过去十几年的快速发展，正是得益于代码和科学信息的共享。而 Meta 的商业模式依赖于广告和社交网络的网络效应，而非直接售卖 AI 技术本身，因此开源技术不仅无害，反而有益。展望未来，LeCun 描绘了一幅图景：我们与数字世界的绝大多数交互将由 AI 系统中介。搜索引擎可能会被直接与 AI 助手对话所取代。更重要的是，作为全球公民，没有人会希望自己的信息食谱仅由美国西海岸或中国少数几家公司打造的 AI 助手来提供。我们需要高度多样化的 AI 助手，它们能说各种语言（包括小众方言），理解不同的文化、价值体系和偏见。这就像我们需要多元化的媒体一样。实现这种文化多样性的唯一现实途径，就是让世界各地的人们能够基于强大的开源基础模型来构建自己的助手，因为他们没有资源从头训练模型。LeCun 预见，市场压力将促使 AI 基础模型走向开源和免费，就像互联网的软件基础设施（Linux 和商用硬件）最终战胜了专有系统一样。AI 基础模型将成为类似互联网基础设施的存在，由大型公司或国际联盟训练，但开放给全球创新者在其之上构建丰富多彩的应用。这，才是 Yann LeCun（杨立昆）所坚信的、能够引领我们走向真正高级机器智能的健康生态。

OpenAI CEO Sam Altman（萨姆·奥尔特曼）：GPT-5 已来，你的口袋里装着博士专家团队撰文：Techub News 整理导语北京时间 5 月 13 日凌晨，OpenAI 举办 Spring Update 直播活动，正式发布其下一代旗舰大型语言模型 GPT-5。公司首席执行官 Sam Altman（萨姆·奥尔特曼）亲自主持开场，将 GPT-5 定位为自 ChatGPT 发布以来最重要的升级，是通向通用人工智能（AGI）道路上的一个“重大台阶”。此次发布不仅公布了惊人的性能数据，更通过一系列现场演示，展现了 GPT-5 在编码、写作、学习、医疗等领域的“博士级专家”能力。尤为关键的是，OpenAI 宣布 GPT-5 将首次向免费用户开放，并同期推出针对开发者的 API 及企业级解决方案，预示着 AI 能力平民化和深度赋能各行各业的时代全面加速。摘要 GPT-5 被定位为“博士级专家”，在编码（SWEBench）、多学科推理（MMMU）、数学（AIME）等基准测试中全面刷新纪录，智能水平显著跃升。新模型核心突破在于“深度推理”能力，能自动判断问题复杂度并进行思考，生成更全面、准确的答案，尤其在处理开放式、复杂任务时表现突出。 GPT-5 即日起开始推送，免费用户也能使用，这是 OpenAI 最先进模型首次向免费层开放，Plus、Team、Enterprise 用户享有更高限额或无限使用。 ChatGPT 迎来多项重磅更新：全新更自然的语音模型、与 Gmail/Google 日历的集成、个性化记忆增强、可调节的“个性”与界面颜色，AI 正变得更个人化、更实用。在 API 层面，GPT-5 及其轻量化版本（mini、nano）同步推出，新增“自定义工具”、“结构化输出约束”、“思维链前导说明”等功能，旨在成为开发者的最佳编码与智能体（Agent）模型。 “博士级专家”登场：GPT-5 的性能跃迁 Sam Altman（萨姆·奥尔特曼）在开场演讲中，用了一个生动的比喻来描述 GPT 系列的进化：GPT-3 像是和高中生对话，偶有灵光但时常令人恼火；GPT-4 像是和大学生对话，具备了真正的智能和实用性；而 GPT-5 则像是与一位“博士级别的专家”对话，能在任何你需要领域提供按需的、深入的专业帮助。他强调，这不仅仅是聊天能力的提升，更是“按需软件”时代的开启——GPT-5 可以从零开始编写完整的计算机程序，或协助完成从策划派对到理解医疗报告等各种复杂任务。 OpenAI 首席研究科学家 Mark Chen（马克·陈）进一步阐释，推理能力是 OpenAI AGI 计划的核心。GPT-5 旨在消除用户在快速响应（标准 GPT）与深思熟虑（推理模型）之间的选择困境，它会自动判断并投入“恰到好处”的思考量，以提供完美的答案。研究科学家 Max Schwarzer（马克思·施瓦泽）展示了基准测试结果：在衡量真实软件工程任务的 SWEBench 上，GPT-5 创下新高；在多学科多模态推理基准 MMMU 上，它超越了前代模型和大多数人类专家；在美国数学邀请赛（AIME 2025）问题上，GPT-5 也表现出色。此外，针对长期困扰大模型的“幻觉”问题，OpenAI 投入巨资提升事实准确性，尤其是在开放式和复杂问题上，GPT-5 被评为迄今为止“最可靠、最基于事实的模型”。全民可及的超级智能：发布计划与核心功能最令社区振奋的消息来自产品经理 Rennie Song（雷尼·宋）：GPT-5 将从当天开始逐步向所有用户推送，包括免费用户。这是 OpenAI 最先进的模型首次对免费层开放。当免费用户达到使用限制后，将切换到能力仍然强大（在许多维度上甚至优于 GPT-4o）的轻量模型。Plus、Team 和 Enterprise 用户将获得更高的使用限额，其中付费用户可享受无限的 GPT-5 访问。同时推出的还有“GPT-5 Pro extended thinking”选项，供需要更深层次推理的付费用户选择。伴随 GPT-5 的集成，ChatGPT 应用本身也迎来一系列重要更新。研究工程师 Ruochen Wang（王若辰）展示了全新升级的语音模型，其自然度显著提升，并新增“学习模式”以引导用户逐步深入理解某个主题。产品负责人 Christina Kaplan（克里斯蒂娜·卡普兰）则介绍了即将推出的深度个性化功能：ChatGPT 将获得 Gmail 和 Google 日历的访问权限（首先面向 Pro 用户），从而能够主动帮助用户规划日程、管理任务。此外，用户还可以自定义聊天界面的颜色，并为 ChatGPT 选择不同的“个性”（如更支持性、更专业或带点讽刺），使其沟通风格更符合用户偏好。记忆功能也得到增强，让 ChatGPT 能更好地理解用户背景与长期目标。安全与训练的革命：更负责、更智能的生成 OpenAI 深知，能力越强的模型，安全责任也越大。安全研究员 Saachi（萨奇）介绍，针对 GPT-5，团队彻底改革了安全训练方法。传统模型倾向于对提示词做出“完全拒绝”或“完全遵从”的二元判断，这在面对双重用途（既可用于合法用途也可能有害）的巧妙提问时效果不佳。GPT-5 引入了“安全补全”新方法：模型不再只是评估提示的意图，而是尝试在安全约束下最大化“帮助性”。这可能意味着部分回答问题、只给出高层次答案，或在拒绝时详细解释原因并提供安全的替代方案。这使得模型在处理敏感但合法的查询时更加灵活和稳健。研究科学家 Sebastien Bubeck（塞巴斯蒂安·布贝克）揭示了 GPT-5 背后一项关键的训练突破：利用前代模型生成高质量的合成课程数据。这并非简单地扩增数据量，而是创造“正确的数据”来教会模型复杂的主题。这种代际模型之间的互动，预示着一个递归的改进循环，即上一代模型不断帮助改进和生成下一代模型的训练数据。他认为，这标志着 AI 系统开始超越传统的预训练和微调流程，迈向更自主进化的未来。改变现实的力量：编码、医疗与企业应用发布会用大量时间展示了 GPT-5 改变具体行业的潜力。在编码方面，研究人员通过多个现场编程演示震撼了观众。Yan Dubois（严·杜波依斯）仅用一句提示，就让 GPT-5 在几分钟内构建了一个功能完整的法语学习网页应用，包含词汇卡片、测验和一个“吃奶酪学单词”的改编版贪吃蛇游戏。研究工程师 Adi Ganesh（阿迪·甘尼什）和解决方案架构师 Brian Fioca（布莱恩·菲奥卡）演示了 GPT-5 如何理解复杂的代码库、自主定位并修复 Bug、甚至遵循简洁的提示生成美观且交互丰富的财务仪表盘或 3D 城堡游戏。Cursor 联合创始人兼 CEO Michael Truell（迈克尔·特鲁埃尔）作为合作伙伴现身说法，展示了 GPT-5 如何在真实工作环境中，快速理解其代码库中非显而易见的架构决策和安全隐患。医疗健康被 Sam Altman（萨姆·奥尔特曼）列为 GPT-5 的顶级用例之一。他邀请了一对夫妇——Filipe（费利佩）和 Carolina Millon（卡罗莱纳·米隆）——分享他们如何使用 ChatGPT（以及后来的 GPT-5）应对 Carolina 的癌症诊断。Carolina 描述了她如何在恐慌中将充满医学术语的活检报告截图发给 ChatGPT，并立刻获得了清晰的解释，这让她在等待医生的几小时内有了初步理解。在后续治疗中，面对医生们意见不一的放疗决策，她借助 ChatGPT 深入分析利弊、理解风险，最终做出了自己能负责的、信息充分的决定。Filipe 强调，AI 在医疗中的承诺不仅是突破性发现，更是创造更聪明、更有能力为自己倡导的患者。他们测试后发现，GPT-5 不仅能翻译医学术语，更能理解问题背后的背景和意图，提供更完整、个性化的指导。 OpenAI 平台负责人 Olivier Godement（奥利维尔·戈德芒）列举了 GPT-5 在企业端的早期应用：生物制药公司 Amgen（安进）用它进行药物设计中的复杂科学文献和临床数据分析；跨国银行 BBVA 用它进行金融分析，将原本需要三周的工作缩短至几个小时；健康保险公司 Oscar Health 发现它是临床推理的最佳模型。此外，OpenAI 宣布已与美国政府达成协议，200 万联邦雇员将能够使用 ChatGPT 和 GPT-5。开发者利器：全新 API 与生态系统赋能对于开发者社区，研究团队负责人 Michelle Pokrass（米歇尔·波克拉斯）详细介绍了 GPT-5 API 的全面升级。除了旗舰版 GPT-5，还同步发布了更轻量、成本更低的 GPT-5 mini 和 GPT-5 nano，开发者可以根据对性能、延迟和成本的权衡进行选择。API 新增多项强大功能：“自定义工具”允许模型以自由格式文本调用工具，更适合复杂场景；“结构化输出”扩展支持通过正则表达式或上下文无关语法严格约束模型输出格式；“思维链前导说明”让模型可以在执行工具调用前解释其计划，增强了可解释性和可控性；“详细程度”参数则可让开发者调节模型回应的简洁或丰富程度。 Michelle Pokrass（米歇尔·波克拉斯）还分享了一组令人印象深刻的基准数据：在衡量真实问题解决能力的 Tower Square 智能体基准测试中，GPT-5 得分高达 97%（两个月前所有模型均低于 49%）；在指令遵循基准上也有显著提升。GPT-5 的上下文长度也扩展到 40 万 tokens。首席技术官 Greg Brockman（格雷格·布罗克曼）总结道，GPT-5 不仅是各项基准的领先者，其设计更专注于现实世界的可用性和可部署性，旨在无缝融入开发者的日常工作流。发布会最后，OpenAI 研究总监 Jakub Pachocki（雅库布·帕霍茨基）向团队致敬，并强调 GPT-5 的发布不仅是产品成果，更是对深度学习这一“神奇技术”理解的深化。他认为，GPT-5 中展现的新颖思想仅仅是开始，未来还有更长的路要走。随着 GPT-5 的全面推出，一个拥有“口袋里的博士专家团队”的时代正式拉开序幕，其将如何重塑工作、学习与创造力，值得所有人拭目以待。

AI 安全专家 Roman Yampolskiy（罗曼·扬波利斯基）：2030年 99% 人类将失业，我们无法控制超级智能撰文：Techub News 整理导语 2025 年 9 月，长期致力于人工智能安全研究的计算机科学副教授 Roman Yampolskiy（罗曼·扬波利斯基）做客知名播客频道《The Diary Of A CEO》，进行了一场长达87分钟的深度对话。Yampolskiy 是“AI安全”术语的提出者，在该领域已深耕超过15年。本次对话发生在全球AI军备竞赛愈演愈烈、技术能力呈指数级增长但安全性研究严重滞后的背景下。他以其深厚的学术背景和对行业发展的紧密观察，对AI发展的极端风险、时间线以及人类社会可能面临的剧变提出了极其严峻、甚至惊世骇俗的预测与分析。摘要 AGI（通用人工智能）预计将在2027年左右实现，随之而来的超级智能将远超人类在所有领域的智慧。到2030年，功能性人形机器人结合高级AI，将导致失业率飙升至前所未有的高度（如99%），绝大多数人类工作将被替代。我们正以指数级速度提升AI能力，但对其安全性和可控性的研究进展却线性甚至停滞，这种“剪刀差”正在扩大，最终可能失控。当前AI的发展路径本质上是对全球80亿人进行的、未经许可且无法获得真正同意的危险实验，其后果可能是人类灭绝。 Yampolskiy 相信我们极有可能生活在一个模拟现实中，但这并不改变当前决策的伦理紧迫性。从乐观到悲观：一位AI安全专家的认知转变 Roman Yampolskiy（罗曼·扬波利斯基）在访谈伊始便开门见山，道出了他个人研究历程中的关键转折：“在最初的至少五年里，我致力于解决（AI安全）这个问题。我深信我们能够制造出安全的AI。但越是深入研究，我越发意识到，这其中的每一个组成部分都不是我们实际能够解决的。”他将这种困境比作“分形”——每深入一层，就会发现十个新问题，然后是上百个，而这些新问题不仅难以解决，甚至可能是“不可能解决的”。 Yampolskiy 指出，AI能力的进步正以指数级甚至超指数级的速度发展，而AI安全领域的进展却只是线性或恒定的。二者之间的差距正在急剧扩大。我们至今没有看到任何奠基性的成果能宣称“我们解决了这个问题，不必再担心了”。现有的做法更多是“打补丁”——比如为大型语言模型设置规则，禁止其说脏话或做某些坏事，但这些措施很快就会被“越狱”破解。这就像公司的人力资源手册：你可以规定“禁止性骚扰”，但总会有足够聪明的人找到规则的漏洞，将行为转移到尚未受限的子领域。当被问及对像 OpenAI CEO Sam Altman（萨姆·奥尔特曼）这样的人物有何看法时，Yampolskiy 态度尖锐。他提到，大约十年前，学界就发表了关于如何正确发展AI的指导原则（护栏），而 OpenAI “违反了其中的每一条”。他认为 Sam Altman 等人是在“将80亿人的生命作为赌注，以换取自己变得更富有、更强大”。他强调，无论谁最终构建出超级智能，“在你切换到超级智能的那一刻，我们都很可能会极度后悔。” 预测时间线：2027年AGI，2030年99%失业，2045年奇点基于预测市场和顶尖实验室CEO的预期，Yampolskiy 给出了清晰而紧迫的时间线预测。 2027年：我们将迎来AGI。这将带来几乎“免费”的体力和认知劳动力，其价值高达数万亿美元。届时，雇佣人类从事大多数工作将变得毫无意义。任何能在电脑上完成的工作都将被自动化。届时，我们将见证失业率飙升至“前所未有”的水平。 2030年：人形机器人技术将趋于成熟，其灵活性足以与人类在所有领域竞争，包括管道工等体力工作。届时，“智力加物理能力”的结合体将几乎不给人类留下任何工作空间。Yampolskiy 强调，真正的关键在于“智力”，即更高的优化、解决问题和发现人类无法察觉的模式的能力。当这种智力能够直接控制物理身体时，社会将发生翻天覆地的变化。他预计，届时失业率可能达到99%，而非通常认为的10%。 2045年：这是 Ray Kurzweil 预测的“奇点”之年。Yampolskiy 解释，奇点意味着进步速度变得如此之快，以至于AI进行的科学和工程工作改进的速度超出了人类的理解和预测能力。届时，技术迭代可能以天、小时甚至分钟为单位进行，人类将完全无法跟上，对世界的理解和掌控将降至零。对于“AI会创造新工作”这一常见的反驳论点，Yampolskiy 认为这是一种“范式转换”。过去的技术发明是“工具”，而AI，尤其是AGI和超级智能，是“工人”和“发明者”本身。它是我们可能需要进行的“最后一项发明”，因为它可以接管科学、研究乃至伦理研究的所有过程。当你可以发明一个能胜任任何工作的“代理人”时，就没有什么是不能被自动化的了。超级智能：无法控制、无法理解、无法预测的黑盒 Yampolskiy 的核心论点是，我们不仅不知道如何让超级智能安全（即“对齐”问题），甚至连理解它都做不到。他反复强调，当前最先进的AI系统，如 ChatGPT，对它们的创造者来说也是一个“黑盒”。 “即使是制造这些系统的人，也必须对他们的产品进行实验，以了解它具备什么能力……我们训练它，然后开始实验：哦，你会说法语吗？你会做数学吗？你现在在对我撒谎吗？……我们仍在旧的模型中发掘新的能力。如果你用不同的方式提问，它会变得更聪明。” 这不再是传统意义上的“工程”，而更像是“科学”——我们创造了一个外星植物般的“人造物”，然后去研究它的行为。这种“不可解释性”和“不可预测性”导致了根本性的伦理困境。Yampolskiy 指出，要获得人类受试者的知情同意，前提是他们必须理解自己同意的是什么。如果这些系统是不可解释和不可预测的，“他们怎么能同意？他们不知道自己在同意什么。因此，这项实验永远不可能符合伦理。” 他认为，当前的发展路径本质上是对全球人类进行的、未经许可且不道德的实验。对于“难道我们不能直接拔掉电源吗？”这种天真的想法，Yampolskiy 感到无奈。他指出，像病毒或比特币网络这样的分布式系统是无法被简单“关闭”的。而一个比人类更聪明的超级智能会提前预测人类的行为，做好多重备份，“它会在你关掉它之前先关掉你”。行业反思与个体应对：我们能做什么？面对如此严峻的前景，Yampolskiy 提出了一些反思和建议。他认为，驱动力在于个人利益。如果能说服那些拥有权力、正在开发这项技术的人（包括公司员工和投资者），让他们明白这么做对他们个人而言是极其有害的——“你将会死，再多的钱对你也没有用”，那么他们可能会改变行为。他呼吁行业应专注于开发“狭义超级智能”，即解决特定问题的强大AI工具，例如治愈癌症，而不是竞相奔向不可控的通用超级智能。“我的公司治愈乳腺癌。仅此而已。我们赚了数十亿美元。每个人都很开心，每个人都受益。这是一场双赢。今天我们仍然掌握着控制权……在我们到达终点之前，游戏还没有结束。我们可以决定不去建造通用的超级智能。” 对于普通个体，Yampolskiy 的建议显得有些无奈。在短期内，个人几乎无能为力，就像个人无法影响第三次世界大战或核浩劫一样。但他支持人们以和平、合法的方式参与“暂停AI”、“停止AI”等抗议运动，试图通过民主力量影响决策者。从个人生活规划角度，他建议人们应该“把每一天都当作最后一天来活”，做有趣、有影响力的事情，同时帮助他人。在被问及如果有一个按钮可以永久关闭世界上所有致力于AGI和超级智能的AI公司时，Yampolskiy 的回答具有启发性：他会选择保留“狭义AI”，因为它们控制着股市、发电厂、医院，关闭它们会导致灾难。但他会毫不犹豫地停止AGI和超级智能的研发。他认为，当前已有技术（弱AGI）99%的经济潜力尚未被部署，足以为世界带来数十年的繁荣发展，完全无需急于奔向无法控制的超级智能。模拟理论与生命意义在对话后半段，Yampolskiy 谈到了他深信不疑的“模拟理论”。他认为，一旦技术发展到能够以可承受的成本（比如每月10美元）运行与现实无异的、包含人类级别AI的模拟世界，那么从统计学上看，我们几乎必然生活在一个模拟中。因为模拟世界的数量将远远超过“真实基底世界”的数量。他将此与宗教联系起来，指出所有宗教的共同点都是相信存在一个比人类更伟大、全知全能的存在，并且这个世界并非终极真实。他认为，模拟假说是宗教内核的现代化、科学化版本。不过，他强调，即使生活在模拟中，生命的体验——疼痛、爱、意义——依然重要，这并不改变我们应当如何生活的本质。最后，当被问及投资建议时，Yampolskiy 半开玩笑地提到了比特币。他认为，在一个AI能创造丰裕物质的世界里，“稀缺性”将成为关键。比特币是唯一已知确切数量上限且无法被随意创造的资产，因此可能在未来具有独特价值。整场访谈中，Roman Yampolskiy（罗曼·扬波利斯基）始终保持冷静、理性，甚至略带幽默，但其传达的信息却沉重得令人窒息。他并非散布恐慌，而是基于多年研究，对一条清晰可见的毁灭性路径发出最严厉的学术警告。他的结论是：我们正驾驶着一辆刹车失灵、且无人知道如何操控的列车，全速冲向未知的深渊。现在的问题是，车上的人是否愿意在坠崖前尝试改变方向。

已经到底了

AI Web3 ETF 稳定币 Defi RWA

搜索“Magic Eden”共有20条相关结果

文章

Demis Hassabis（德米斯·哈萨比斯）谈未来 5-10 年的 AGI 及其通向“根本性富足”之路

Fei-Fei Li（李飞飞）：AGI 的核心是空间智能，AI 发展的首要原则是尊重人类能动性

OpenAI 前沿研究负责人 Mark Chen（马克·陈）：多模态与推理是通往 AGI 的关键

Judea Pearl（朱迪亚·珀尔）：因果推断是通往有意识 AI 的缺失一环

OpenAI 首席科学家 Ilya Sutskever（伊利亚·苏茨克维）：AI 突破的惊人速度与自动化研究的未来

Richard Sutton（理查德·萨顿）：通往AGI之路在于强化学习与去中心化合作

Meta 首席 AI 科学家 Yann LeCun（杨立昆）：人类智能并非通用智能

OpenAI CEO Sam Altman（萨姆·奥尔特曼）：GPT-5 已来，你的口袋里装着博士专家团队

AI 安全专家 Roman Yampolskiy（罗曼·扬波利斯基）：2030年 99% 人类将失业，我们无法控制超级智能

Google DeepMind CEO Demis Hassabis（德米斯·哈萨比斯）：世界模型、AGI 时间表与 AI 驱动的科学革命

Magic Eden 将 ME 代币回购及质押分红比例提升至核心收入的 30%

知情人士：Magic Eden 拟关闭比特币和 EVM 市场，终止多链钱包服务

Magic Eden 推出回购计划：NFT 市场 15% 的收入将用于回购 ME，另 15% 将回购 NFT

Magic Eden 完成对去中心化交易平台 Slingshot 的收购

Magic Eden：所有未申领 ME 代币将在 2 月空投给 ME 质押者

Coinbase 已上线 Magic Eden 代币 ME

Magic Eden 基金会：ME 空投需在移动应用中申领，截止日期为明年 2 月 1 日

Bithumb 将上线 Magic Eden 代币 ME 和 SynFutures 代币 F

Upbit 将上线 Magic Eden 代币 ME

币安将上线 Magic Eden 代币 ME