撰文:Techub News 整理
导语
在2025 年 3 月举办的 The AI Conference™ 上,OpenAI 前沿研究(Frontiers Research)负责人 Mark Chen(马克·陈)与 AI 基础设施公司 Anyscale 的联合创始人 Robert Nishihara 进行了一场深度对话。Mark Chen 领导的团队旨在探索通往通用人工智能(AGI)道路上缺失的关键范式,其工作聚焦于多模态与推理两大方向。作为 DALL-E、GPT-4 多模态能力等知名项目背后的核心研究者之一,Mark Chen 的见解对于理解 AI 的现状与未来至关重要。此次对话不仅回顾了 AI 研究范式的十年变迁,更揭示了当前最前沿的技术挑战与机遇。
摘要
- AI 研究范式已发生根本转变:从依赖标注数据的监督学习,转向以海量无标注数据和无监督学习为核心的“规模化”范式。
- 通往 AGI 的两大核心挑战是多模态理解与生成以及深度推理能力的构建。
- 工程与科研的紧密结合成为现代 AI 发展的新常态,规模化(Scaling)本身既是目标也是驱动创新的引擎。
- 未来的 AI 应用将更加“身临其境”,多模态交互将催生更强大的 AI 代理和机器人技术,但实现这一切需要解决鲁棒性等根本问题。
从监督学习到规模化范式:AI 研究的十年之变
Mark Chen(马克·陈)与 Robert Nishihara 的对话始于对过去十年 AI 领域最大突破的回顾。两人一致认为,最根本的转变在于研究范式的迁移。
Mark Chen(马克·陈)指出,十年前经典的机器学习课程通常将机器学习分为监督学习、无监督学习和强化学习三大类。当时,学术界对监督学习已有成熟方案(如决策树、支持向量机),但对无监督学习则知之甚少,仅停留在 K-Means 聚类等基础方法。如今,这一局面已被彻底颠覆。“我们现在确实知道如何进行无监督学习了,” Mark Chen(马克·陈)总结道。
这一转变的标志性起点是 GPT-1、GPT-2 时代。研究者们意识到,数据是取得突破的关键要素。AI 研究不再局限于在固定的学术数据集(如 ImageNet)上优化模型架构,而是转向了“收集尽可能多的数据”并从中寻找“Alpha”的路径。数据集本身成为了核心变量,而模型架构和优化算法则相对稳定。这催生了以规模化为核心的“经验缩放定律”(Empirical Scaling Laws):投入更多计算资源、更多数据、训练更大模型,就能获得更好的性能。
Robert Nishihara 从基础设施的角度印证了这一趋势。Anyscale 的客户们正遵循这一“公式”,将扩大数据规模作为首要目标。然而,将数据规模提升一个数量级,往往会压垮现有的系统,这背后需要巨大的工程努力来支撑。Mark Chen(马克·陈)强调,工程能力在2025 年 3 月的研究中变得前所未有的重要。相信缩放定律,就意味着必须构建出能够支撑缩放的工程栈。
这种工程与科研的深度融合,构成了现代 AI 研究的典型图景。Mark Chen(马克·陈)形容,每将模型规模扩大一个数量级,都会遇到新的研究瓶颈或工程瓶颈,需要在多个前沿同时取得突破。这既是挑战,也是这个领域令人兴奋之处。
多模态:AGI 的感官拼图与系统工程挑战
作为 OpenAI 多模态研究的负责人,Mark Chen(马克·陈)将多模态视为通往 AGI 的核心路径之一。过去五到十年,生成式图像、视频模型取得了巨大成功,但多模态领域仍存在大量开放性问题。
目前存在两种主要的研究思路:一是将多模态问题“塞进”已经非常成熟的语言模型(Transformer)架构中;二是探索以扩散模型(Diffusion Model)等多模态原生框架为主,尝试将语言能力整合进来。Mark Chen(马克·陈)认为这两种思路之间的“思想桥梁”非常有趣,也是他们工作的重点。
当被问及主要关注哪些模态时,Mark Chen(马克·陈)列举了文本、图像、视频和音频这四大“最核心”的模态,同时也提及了 3D 模型、甚至“动作”作为潜在模态的可能性。他特别指出,不同模态对系统设计的要求差异巨大。例如,音频交互(如高级语音模式)要求实时、低延迟的响应;而图像生成则更看重最终输出质量,用户愿意为此等待。因此,尽管底层结构可以共享,但为不同模态设计不同的技术栈仍然是有益的。
Robert Nishihara 从系统负载的角度补充了多模态带来的挑战。与文本数据相比,图像、视频的数据量呈指数级增长。这意味着未来的 AI 应用将同时是计算密集型(GPU 负载高)和数据密集型的。现有的高性能计算(HPC)系统擅长处理计算密集型任务,而大数据处理系统(如 Spark)则擅长处理海量 CPU 任务。多模态 AI 将催生一个需要同时高效处理这两类任务的新系统范式,这将对现有的技术栈构成巨大挑战。
此外,Mark Chen(马克·陈)指出,获取高质量的配对跨模态数据(如图文对)是一大难点。这推动了利用 AI 本身进行数据准备和增强的趋势,例如 DALL-E 3 在合成数据方面的探索。Robert Nishihara 也观察到,客户正越来越多地使用 AI 来筛选、标注、增强训练数据,因为相对于花费数百万美元进行模型训练,在数据质量上进行投资往往能获得更高的回报。
从“系统一”到“系统二”:构建深度推理的鲁棒 AI
Mark Chen(马克·陈)负责的另一大方向是推理(Reasoning)。他用心理学中的“系统一”和“系统二”来比喻当前 AI 的局限与未来目标。
目前的语言模型(如 ChatGPT)更像是“系统一”思考者:快速、直观、基于模式匹配给出响应。无论问题难易,模型的初始响应时间几乎相同。这与人类思考方式不同——面对复杂问题,人类需要时间进行深度处理(“系统二”思考)。Mark Chen(马克·陈)认为,当前大语言模型在逻辑谜题或复杂任务上犯错,部分原因正是受限于这种“系统一”的即时响应模式。如果要求人类在 100 毫秒内回答一个难题,他也只能给出脑海中最先浮现的答案,这同样不够稳健。
因此,构建具备“系统二”特性的深度推理能力,是提升 AI 鲁棒性的核心挑战。这不仅仅是解决数学问题,而是适用于任何需要高可靠性和复杂思考的场景,例如理解对话意图、规划复杂任务等。Mark Chen(马克·陈)提到,数学和计算机科学问题是方便的评测基准,但更广泛的“推理”评测标准目前仍然缺失,预计未来会出现更多相关的评估方式。
Robert Nishihara 从应用部署的复杂性角度呼应了这一观点。当前许多 AI 应用只是通过 API 端点调用单一模型。但对于预订民宿、解决复杂数学问题等任务,可能需要动态组合 50 到 100 次模型调用,并与其它应用逻辑交织。这种复杂的推理链消耗大量计算资源。Mark Chen(马克·陈)展望,深度推理的终极目标是让模型自身足够智能,能够在遇到障碍时自主“思考”出解决方案,而无需依赖外部搭建大量脚手架式的复杂流程。
关于如何实现推理能力,Mark Chen(马克·陈)表示 OpenAI 探索了多种路径,包括在预训练中内置、以及通过外部机制增强等,目前仍是一个开放的研究空间。
未来展望:身临其境的 AI 与高风险的智能代理
展望未来,两位专家分享了他们最兴奋的方向。
Robert Nishihara 预测,越来越多的数据处理将 AI 化。企业收集海量数据是为了获取洞察和决策,未来这些洞察将更多地由 AI 阅读、推理数据得出,而不仅仅是运行 SQL 查询或简单分析。这将催生全新的、以 AI 和 GPU 为核心的数据处理工作负载。
Mark Chen(马克·陈)则对多模态带来的“身临其境”体验感到兴奋。像 OpenAI 的“高级语音模式”这样的技术,让 AI 能够实时接收和处理多种感官输入(听、说),并生成丰富的感官内容。他认为,这不仅是交互方式的革新,更是机器人技术发展的基石。随着感知模块的快速进步,多模态 AI 正在为机器人构建强大的“后台大脑”,使其能够更好地理解和与物理世界互动。
当被问及实现全能人形机器人的瓶颈时,Mark Chen(马克·陈)表示,在基础层面已有许多可用的技术模块,但最终实现仍需跨领域突破。
对话最后聚焦于 AI 代理(AI Agents)。Mark Chen(马克·陈)将其定义为能够接收任务并自主执行的 AI。与当前“一问一答”的聊天机器人不同,代理的行动具有真实世界的后果(如发送邮件、执行操作),因此对鲁棒性和可靠性的要求极高。他认为,深度推理能力正是实现强大、可靠 AI 代理的关键缺失组件。只有解决了鲁棒性问题,AI 代理的愿景才能真正走进现实。










