Cohere CEO Aidan Gomez（艾丹·戈麦斯）：Transformer 架构八年未变，AI 的未来在于企业应用

撰文：Techub News 整理 导语 2017年，一篇名为《Attention is All You Need》的论文横空出世，其提出的 Transformer 架构彻底改变了人工智能的发展轨迹，开启了生成式 AI 的浪潮。八年后的2025 年 6 月，这篇论文的八位作者之一、当时还是一名大三本科生的 Aidan Gomez（艾丹·戈麦斯）已成长为估值数十亿美元的 AI 独角兽 Cohere 的 CEO。在 The MAD Podcast 主持人 Matt Turck 的深度访谈中，Gomez 首次详细揭秘了 Transformer 论文诞生背后的“意外”故事，并阐述了他为何坚信企业级 AI 而非追逐 AGI（通用人工智能）才是 AI 技术造福世界的正道。这场对话不仅是对 AI 发展史上关键节点的回顾，更是对当下 AI 商业化路径与未来趋势的一次深刻洞察。 摘要 Transformer 的诞生源于“行政错误”与有机合作：Gomez 进入 Google Brain 实习源于一场误会（其经理误以为他是博士生），而论文的诞生则是几个独立研究小组因共同兴趣自发合并、冲刺会议 deadline 的结果。 Transformer 架构统治力惊人，八年未遇挑战：Gomez 坦言，Transformer 的持久性“令人震惊”，其成功部分源于整个 AI 基础设施（包括芯片）都已围绕其优化，新架构的替代门槛极高。 “推理计算”是重大突破，但潜力远未挖尽：让模型在不同问题上分配不同“思考”时间的“推理计算”范式解锁了巨大能力，且实现成本远低于预训练，未来将在科学、医疗、企业自动化等领域发挥更大作用。 Cohere 押注企业 AI 而非 AGI“宗教”：Gomez 直言不喜欢 AGI 圈子的“角色扮演”和“新宗教”氛围，认为通过 AI 提升人类生产力、降低成本和改善服务（如医疗）才是更有意义的方向。 智能体（Agent）平台“North”是企业 AI 的核心：Cohere 的垂直整合战略使其能提供从底层模型（Command、Embed）到上层智能体平台（North）的全栈解决方案，并特别注重数据安全（支持本地/私有云部署）和多语言/多模态能力。 Transformer 诞生记：一场美丽的“意外” 2017年，还在多伦多大学读大三的 Aidan Gomez（艾丹·戈麦斯）通过一封“cold email”联系上了 Google Brain 的研究员，原因是他反复在阅读的论文作者栏看到这个名字。他提出了自己对论文的一些扩展想法，并由此获得了一个实习机会。“我经理以为我是博士生，”Gomez 回忆道，“所以我想我是通过一个行政错误进去的——我们通常不招本科生。”这个“错误”让他坐到了另一位论文合著者 Noam Shazeer 旁边，并加入了 Lucas Kaiser 的团队。 最初的项目是一个名为“One Model To Learn Them All”的多模态模型。在开发过程中，Gomez 和 Kaiser 构建了一个名为“Tensor2Tensor”的框架用于高效分布式训练，并成功说服了邻座的 Noam Shazeer 使用它。随后，他们发现 Google Translate 团队也在进行类似的研究。“我们意识到大家在做同一件事，”Gomez 说，“我们都关注基于文本的自回归模型，并且更纯粹地利用注意力机制，而不是之前那些复杂且有些‘丑陋’的 RNN、LSTM 模型。”于是，几个小组决定合并力量，专注于打造一个最简单、高效的基于注意力的语言模型——这就是 Transformer 的雏形。 论文的写作过程堪称“疯狂冲刺”。团队为了赶上顶级 AI 会议 NeurIPS 的投稿截止日期，进行了高强度的工作。“我们尝试了无数东西，修补了很多小 bug，”Gomez 举例道，比如最初纯注意力架构无法区分序列中元素的位置信息，是 Noam Shazeer 灵光一现，提出了在嵌入中添加正弦波来表示位置的方法——这个方案至今仍被广泛使用。 论文发表后，在自然语言处理（NLP）和机器翻译的小圈子内引起了兴奋，但当时远未达到后来革命性的广泛认知。对于 Google 为何没有更快地利用 Transformer 架构开发出类似 ChatGPT 的产品，Gomez 澄清道，Google 实际上迅速将 Transformer 应用到了搜索和翻译等核心产品中（如 BERT）。“准确的说法是，他们没有像 OpenAI 那样早期且独特地全力投入互联网文本的纯序列建模（即大规模语言模型预训练）。” Gomez 总结道。 Transformer 为何统治八年？生态锁定与极高的替代门槛 距离论文发表已过去八年，Transformer 架构依然是 AI 领域的绝对主流，这一点连 Gomez 本人都感到“震惊”。“我们今天训练的 Transformer 和当年的看起来如此相似，”他说。他认为，这并非因为研究社区缺乏新想法，而是一个“自我实现的预言”或“强化循环”。 整个 AI 社区对 Transformer 的热情催生了专门为其优化的庞大基础设施堆栈。“我们现在甚至有专门为该架构优化的芯片，”Gomez 指出。因此，要转向一种新架构，需要付出巨大的努力和能量去重写一切。“新架构必须提供极其令人信服的理由（才能取代它），而我们还没找到那个架构。”他坦言，替代的门槛已被推得极高。 Gomez 本人也曾热切期待 Transformer 的继任者。他甚至将 Cohere 纽约办公室的一间会议室命名为“SSM”（状态空间模型），坚信它将是替代者。但现实是，Transformer 就像一个“伟大的艺术家”，不断吸收其他架构（如 SSM、扩散模型）中的优秀思想，并将其整合进自身，从而持续进化，保持了领先地位。 推理计算：一个“显而易见”却改变游戏规则的想法 近半年来，“推理计算”（Test-Time Compute）或“思维链”推理成为 AI 领域的热点。但在 Gomez 看来，这其实是一个酝酿已久且“显而易见”的方向。“我们已经知道它要来好几年了，”他说。 其逻辑在于：在引入推理能力之前，语言模型对所有输入（无论是“1+1”还是“治愈癌症”）都分配相同的“能量”和即时响应时间。这显然不合理。不同复杂程度的问题理应获得不同的“思考”资源。推理计算正是让模型能够根据问题复杂度，动态分配计算步骤（“思考时间”）的范式。 “它的有效性令人惊讶，”Gomez 评价道。模型仅需极少量的人类示范（如何一步步思考），就能自己掌握推理方法，从而解锁了前所未有的能力。更关键的是，实现推理能力的成本“远低于预训练”，使得智能提升变得“非常容易获得”。 然而，Gomez 认为这仅仅是开始。“我们只是触及了表面。”目前的研究主要集中在数学和编程领域，但在医学、物理、化学等纯科学领域，以及企业自动化场景中，还有巨大的空白等待探索。“所有有趣的问题都需要推理。” 从研究到创业：为何 Cohere 选择“枯燥”但重要的企业 AI 在目睹了早期大规模语言模型展现出的惊人能力后，Gomez 联系了他在 Google Brain 结识的两位朋友 Nick 和 Ivan，共同创立了 Cohere。与许多同期涌现的、目标直指 AGI 的明星实验室不同，Cohere 很早就确立了企业 AI 的方向。 “我从来不喜欢整个 AGI、有效利他主义圈子的氛围，”Gomez 直言不讳，“感觉像在角色扮演，像人们在创立一种新宗教……‘创造上帝’这类东西。我不喜欢那种精神气质。”相比之下，企业级应用或许听起来“枯燥”，但他认为其意义远为重大。 “提升人类生产力，让人类能做更多事，增加供给，降低事物成本，让人类成就更多——这些远比‘建造上帝’或‘从 AI 手中拯救世界’更激励我。我想用 AI 来拯救世界。” Gomez 阐述了他的理念。他希望通过 AI 让医生花更少时间写病历、填表格，而将更多时间用于诊治病人；为医生配备能帮助他们研究罕见病例的智能体。他的目标是让这项技术在全球经济中真正发挥作用。 当然，作为行业领军者，他无法完全避开关于 AGI/ASI（人工超级智能）的讨论。但他认为，AGI 的定义模糊且不断变化。“我认为我们在很大程度上已经拥有了 AGI。”他举例说，如果在他和 Cohere 的模型之间选择谁来诊断开药，理性的选择肯定是模型。“我保证它懂得比我多。”AI 已经在许多方面比普通人更聪明，并且未来在某些领域超越最顶尖的人类专家也是必然趋势。“我反对那些贩卖末日论调的人，”Gomez 总结道，“技术进步意味着什么？其切实的影响才是关键。” Cohere 的全栈蓝图：模型、智能体与安全优先 Cohere 采取了一条垂直整合的道路。其核心是自研的模型层：包括生成模型 Command（对标 GPT、Llama 等）和搜索模型系列（Embed V4, Rerank 3.5）。这些模型构成了其智能体平台“North”的基石。North 允许企业构建能接入内部所有软件和数据的 AI 智能体，让其去完成具体任务。 Gomez 特别强调了 Cohere 在安全部署上的独特优势。与许多提供 API 调用服务的竞争对手不同，Cohere 可以将其模型直接部署在客户的硬件上，无论是在客户的云虚拟私有云（VPC）中，还是为受监管行业部署在本地数据中心。“这带来了巨大的解锁效应，”Gomez 解释，因为 AI 智能体需要访问企业的核心数据（邮件、文档、客户记录等），数据不出境、完全私有的部署模式让客户更放心地接入更多关键系统，从而发挥 AI 的最大价值。 在模型训练数据方面，Gomez 证实了合成数据已成为主流且效果卓越。“合成数据现在是我们训练 Command 等模型所用数据的主要部分，而且在许多情况下，它实际上比人类数据更有用。”他举例说，人类回答问题时往往简洁（如直接回答“11”），但人类实际上更喜欢模型那种充满同理心、耐心细致的回答风格。因此，他们需要用模型来重写人类答案，以生成风格更优的训练数据。 此外，Cohere 在多语言和多模态上也投入颇深。其 Cohere For AI 实验室发布了支持超百种语言的模型。Gomez 指出，日语、韩语等市场被严重低估，现有技术无法满足其企业级文档处理需求。因此，Cohere 选择与富士通（日本）、LGCNS（韩国）等地区巨头合作，开发针对当地语言和企业场景的定制模型。多模态能力也被视为企业场景的“入场券”，对于理解包含图表、幻灯片的 PDF 文档以及实现计算机视觉操控（让 AI 使用图形界面）至关重要。 智能体（Agent）的现在与未来：从研究到落地 Cohere 的智能体平台 North 目前处于早期访问阶段。Gomez 将其描述为一个“完全私有化、高度可定制、原生支持推理的消费级聊天机器人升级版”。它可以集成企业内部的任何软件，并花时间（几分钟甚至几十分钟）进行深度研究、筛选数据以完成任务。 他分享了一个生动的用例：财富管理。当突发事件（如战争、新关税）爆发时，理财经理的客户会纷纷来电询问对策。经理通常需要花费数周时间研究并制定对冲组合方案，但市场瞬息万变，等方案出炉可能已错过时机。North 这样的智能体可以极快地阅读海量分析报告和新闻，迅速提出初步方案，人类经理在此基础上进行修改和决策，将周期从数周缩短到数小时。 面对智能体能力泛化可能带来的“选择困难症”，Gomez 观察到市场已经发生了变化。“早期客户会问‘AI 很酷，董事会给我压力，我该用它做什么？’我们需要帮他们识别机会。但现在，客户的成熟度大大提高了。他们很清楚自己要做什么，只需要一个合作伙伴来帮他们执行这个路线图。”许多大企业会带着数百个已识别的用例来找 Cohere。 当然，智能体并非万能。Gomez 指出，在医疗、金融等敏感领域，必须保持“人在回路”的监督。此外，在需要真正突破性科学发现（如解决千年数学难题、发现新化合物）的领域，AI 目前还无法提供核心帮助，但他相信这一天很快就会到来。 CEO 的展望：技术乐观主义与社会关切 当被问及什么让他夜不能寐时，Gomez 的答案出人意料地并非技术挑战。“让我睡不着的是政治，”他说，“是世界各地出现的分裂……我主要担心我们的社会、自由民主制度。我为自由主义过去一个世纪取得的进步感到担忧。” 但他对 AI 持乐观态度，认为 AI 可以成为一股强大的向善力量，帮助“好人”获胜，并解决过去十五年来全球经济面临的一些问题，如生产力增长缓慢、财富分配不均等。 对于 Cohere 未来三到五年的成功愿景，Gomez 希望看到 AI 技术带来可衡量的 GDP 和生产力增长，希望这项技术能在全球范围内整合，成为每个人日常工作的一部分，而不仅仅是娱乐或搜索工具。“我希望它能帮助人们成就更多，让东西变得更便宜、更丰富。”这或许正是这位从一场“意外”中走出的 AI 先驱，为其所创造的技术所描绘的最朴实也最宏大的蓝图。