OpenAI CEO Sam Altman（萨姆·奥尔特曼）：AGI 尚未到来，但 AI 将重塑一切

撰文：Techub News 整理 导语 在 TED2025 大会的聚光灯下，OpenAI 联合创始人兼首席执行官萨姆·奥尔特曼（Sam Altman）与 TED 策展人克里斯·安德森（Chris Anderson）进行了一场近一小时的深度对话。此时正值 OpenAI 模型发布节奏令人眼花缭乱、ChatGPT 用户数飙升至数亿之际，这场对话不仅是对当前 AI 进展的盘点，更是对技术、社会、伦理与未来的一次关键审视。作为全球最具影响力的 AI 公司领导者，奥尔特曼的每一次发声都牵动着行业神经，而此次在 TED 的亮相，无疑是为公众理解 AI 革命的核心争议与未来图景提供了第一手视角。 摘要 ChatGPT 周活跃用户已达 5 亿，且仍在高速增长，但 OpenAI 深感计算资源紧缺。 AGI（通用人工智能）尚未达成，当前模型缺乏持续学习、自主改进和完成复杂端到端任务的能力。 AI 对创意产业的经济模型构成挑战，OpenAI 正在探索艺术家“选择加入”并获得收入分享的新模式。 开源模型至关重要，OpenAI 将发布一个接近技术前沿的强大开源模型。 AI 智能体（Agent）是下一个重大飞跃，也是最具挑战性的安全前沿。 最令奥尔特曼兴奋的方向是 AI 助力科学发现，有望在疾病等领域取得突破。 爆炸式增长与无处不在的智能 对话从令人惊叹的 AI 生成能力开始。克里斯·安德森展示了 Sora 视频生成模型对 TED 演讲场景的想象，以及 GPT-4o 图像生成模型对“智力与意识区别”图表的概念化呈现。奥尔特曼指出，新的图像生成模型是 GPT-4o 的一部分，因此继承了其核心智能，这使得它能完成更令人喜爱的创造性任务。 对于 AI 是否将取代人类工作的担忧，奥尔特曼提出了历史性的视角：每次技术革命都会提升对特定工作岗位的期望，但同时也将极大地提升个人能力。他认为，人们将能够轻松应对这种提升的期望，利用新工具做到更多。 用户增长的数字揭示了 AI 普及的惊人速度。奥尔特曼确认，ChatGPT 的周活跃用户数已达到 5 亿，并且仍在“非常快速地”增长。他坦言，公司正面临巨大的计算资源约束，每天都在恳求各方提供更多 GPU。这种增长是“疯狂”的，也让团队倍感压力和疲惫。 更深刻的变革在于 AI 与个人关系的演进。OpenAI 2025 年 4 月推出的“记忆”（Memory）功能，意味着模型将在用户一生中逐渐了解用户，最终可能成为全天候倾听、观察的伴侣与自我延伸。安德森体验后深感“震惊”，奥尔特曼则描绘了这样一个未来：AI 不再是被动应答的工具，而是能主动提供帮助、让你变得更好的存在。 创意、版权与开源：重塑经济与生态 当 AI 能够模仿特定艺术家风格时，版权与灵感之间的界限变得模糊。安德森尖锐地提出了“花生漫画”（Peanuts）案例，质疑这是否构成 IP 盗窃。奥尔特曼承认，当前如果用户要求模仿在世艺术家的风格，系统会拒绝。但对于已故艺术家、艺术运动或某种“氛围”的模仿，则是允许的。他坚信，人类将始终处于创造力的中心，但需要围绕创意产出的经济学探索新的模式。 奥尔特曼提出了一个可能的解决方案：建立一种“选择加入”（opt-in）的收入分享模型。如果一位艺术家同意，用户可以在提示中指名使用其风格进行创作，并为此付费，收入的一部分将归艺术家所有。他认为这是一个值得探索的方向，旨在将创意从“作品被窃取”的恐惧，转向“能力被放大”的机遇。 话题转向开源。面对如 DeepSeek 等开源模型的竞争，奥尔特曼表示开源具有重要地位。他透露，OpenAI 2025 年 4 月举办了首次社区会议，决定其开源模型的参数与形态，并将发布一个“非常强大”、接近技术前沿的开源模型，其性能将优于当前任何开源模型。他承认公司在这方面行动较晚，但决心现在要把它做好。 当被问及是否担心巨额投入建立的领先优势被开源侵蚀时，奥尔特曼显得务实。他认为，未来世界上会有许多智能模型，非常聪明的模型将在某种程度上被商品化。OpenAI 的目标是拥有最好的模型，并在此基础上打造最好的产品。他强调，模型能力只是基础，构建一个集成了图像生成、视频生成、记忆等功能的伟大产品同样关键，这才是留住用户的核心。 AGI 定义、智能体安全与未知风险 克里斯·安德森提出一个普遍困惑：ChatGPT 似乎已是一种通用智能，为何还不算 AGI？奥尔特曼给出了明确否定。首先，当前模型在许多方面仍然“尴尬地糟糕”。更重要的是，它缺乏关键能力：无法持续学习和自我改进，无法主动发现新科学并更新自身认知，也无法独立完成端到端的知识工作（例如，根据指令上网点击、打电话、查看文件来完成一项工作）。 他坦言，即使在 OpenAI 内部，对 AGI 的定义也莫衷一是，“10 个研究员能有 14 种定义”。但他认为，比纠结定义更重要的是认识到：我们正处在一个难以置信的指数曲线上，模型只会变得越来越聪明、能力越来越强，并最终远远超越任何人所定义的 AGI。因此，对话的重点应转向如何确保系统在整个演进过程中乃至超越人类智能后的安全。 真正的变革时刻，或许在于智能体（Agentic AI）的成熟——即 AI 被释放，能够自主执行多步骤项目。奥尔特曼确认，OpenAI 的“Operator”已开始尝试此类任务。但他也承认，这是“我们迄今为止面临的最有趣、最重大的安全挑战”。当 AI 能够操作你的系统、信息，并在你的电脑上点击时，一旦出错，代价将高昂得多。 奥尔特曼将产品能力与安全的关系描述为日益“一维化”：一个好产品必须是一个安全的产品。用户不会使用一个他们不信任、可能清空银行账户或删除数据的智能体。因此，构建真正可信、安全的智能体能力，成为了产品进步的关键制约因素。 关于更宏大的风险，奥尔特曼列举了几类：可能被严重滥用的强大模型（如新型生物恐怖主义、网络安全挑战）、能够以导致失控的方式自我改进的模型。对于内部安全审查，他提到了 OpenAI 的“准备框架”（Preparedness Framework），该框架定义了最重要的危险类别、测量方法以及发布前的缓解措施。针对安全团队人员离职的质疑，他指向公司的安全记录，称全球约 10% 的人口频繁使用其系统，公司对此记录感到自豪。他强调，安全必须贯穿整个指数发展曲线，随着风险升高，挑战也在增大。 权力、责任与未来世界 对话的后段转向了对奥尔特曼个人及其所代表权力的审视。安德森提到了两种叙事：一是惊艳世界的远见卓识者，二是从“开放”转向追求超级力量、可能不再值得信任的领导者。奥尔特曼回应称，自己是一个“多维度、难以简单概括”的人，赞扬与批评可能都部分属实。 他回顾了 OpenAI 的使命演变：目标是打造 AGI 并确保其安全，广泛造福人类。战术随着对现实（尤其是资本需求）的认知而调整。他承认公司本应更早开源，但当初出于对系统影响和安全的不确定性而采取了谨慎态度。现在，随着世界认知加深，是时候将非常强大的开源系统推向世界了。他预见到，明年可能就会有人因开源系统的滥用而指责他。 针对埃隆·马斯克（Elon Musk）关于“权力之戒”腐蚀的隐喻，奥尔特曼幽默地反问观众觉得自己做得如何。他坦言，成为父亲是他经历过的最美妙的事，这改变了他对时间成本的看法，但并未改变他“避免世界毁灭”的责任感，他之前就已对此极为关切。 对于“AI 发展是否不可避免、导致危险竞赛”的担忧，奥尔特曼指出，放缓发展时常发生，原因包括技术未就绪、安全性不足或功能不完善。他认为大多数 AI 研发方都非常关心安全，彼此间也有沟通（除了一家例外），外界将之 caricature（漫画化）为疯狂竞赛忽略了其中的细微差别。 最后，奥尔特曼展望了他儿子将成长于其中的世界：那将是一个物质极度丰富、变化速度极快、个人能力与影响远超今日的世界。AI 将无处不在，计算机将真正理解人类。他希望后代回顾今天时，会带着些许怜悯和怀旧，认为我们的生活如此受限，世界如此糟糕——而这在他看来，正是进步的美好之处。 在结束前，奥尔特曼提出了一个关于治理的颠覆性观点：AI 的新颖之处在于，它可以与地球上的每个人对话，从而学习集体的价值偏好，而不是由少数被社会认可的精英在房间里做出决定。他相信，AI 可以帮助人类变得更明智，做出更好的集体决策。这或许是他为未来 AI 与社会共治提供的一抹乐观底色。