英伟达($NVDA)将其面向人工智能(AI)数据中心网络技术提升至新高度。其最新公布的“多路径可靠连接(MRC)”是一项用于减少超大规模GPU集群中瓶颈与故障的技术,其核心在于OpenAI与微软($MSFT)已在真实AI训练环境中实际应用。
此次发布并非简单的网络升级。英伟达明确了其将长期被视为通用基础设施的以太网转变为“AI原生”网络的蓝图。特别是MRC,它运行在Spectrum-X以太网平台之上,旨在针对数万至数十万个图形处理器(GPU)同时运行的“AI工厂”环境。
MRC是一种基于远程内存直接访问(RDMA)的传输协议。简单来说,其设计是将一个连接分散到多个网络路径进行传输,并在出现拥塞或故障时实时绕行。这种方式能减少因特定路径流量集中而产生的瓶颈,并有助于在发生短暂故障时,避免大规模AI训练任务中断。
据英伟达称,OpenAI已在利用基于Spectrum-X的MRC技术,用于驱动ChatGPT和Codex的最新大型语言模型(LLM)训练。微软也将其引入部分基于GB200系统的大型AI工厂。这意味着该技术并非实验室级别,而是在实际运行环境中得到验证的技术。
本次发布的核心架构
本次发布可归纳为三大支柱。首先,MRC本身充当新的传输层角色。它将单个RDMA连接扩展到多条路径,并根据拥塞信号和路径状态保持最佳传输状态。其次,Spectrum-X是驱动MRC的基础平台。第三,该规范将通过开放计算项目(OCP)公开。除英伟达外,OpenAI、微软、AMD($AMD)、博通($AVGO)和英特尔($INTC)也参与了开发。
英伟达在此也采取了“开放标准,差异化实现”的策略。即不将数据包规范本身据为己有,而是以任何人皆可实现的形式公开,同时指出实际的性能差异取决于网络接口卡、交换机和主机软件之间的紧密集成程度。换言之,标准保持开放,但优化能力在于其自身的硬件与软件整合。
英伟达网络高级副总裁Gilad Shainer将此技术描述为将网络的“大脑”扩展到了主机端。在传统以太网环境中,通常由交换机主导路由,用户很难精细控制服务器外部的网络。但在MRC中,SuperNIC和主机端管理软件可以直接参与路由决策。这意味着,即使像OpenAI这样不直接拥有云基础设施的机构,也能根据其特定的训练任务调整网络行为。
这种架构在“托管用户”与“基础设施所有者”分离的环境中尤为重要。例如,OpenAI在微软的基础设施上运行大规模AI模型,但其架构并非直接管理所有交换机。尽管如此,利用MRC,他们仍可通过服务器端软件和NIC,在一定程度上参与路由策略、拥塞应对和故障规避。随着AI生态系统的进一步多层化,对这种模式的需求很可能会增长。
多平面架构与可扩展性
本次发布另一个值得关注的方面是“多平面”架构。这种方式并非构建单一网络来连接GPU,而是将其构建为多个独立的路径集合。简单来说,就是设置多套能够处理相同东西向流量的并行网络。Spectrum-X在此多平面环境中提供基于硬件加速的负载均衡,即使在特定路径出现故障或维护时,也能将流量切换到其他平面,从而最大限度地减少训练中断。
MRC在此多平面架构上能更高效地运行。它不仅是将多条并行网络作为备份路径,而是主动利用它们,同时提升性能与恢复能力。这被视为一个信号,表明以太网正超越传统的通用数据中心网络,演变为专为AI训练设计的专用网络架构(Fabric)。
英伟达将MRC视为现有技术的有效补充。目前,Spectrum-X至少支持两种面向AI的以太网传输方式。一种是专注于交换机和NIC层面自适应优化的“自适应RDMA”,另一种则是强化了多路径与主机端控制的MRC。这意味着客户可以根据自身的工作负载和运营方式选择不同的协议。
这亦与业界另一项标准化行动——超以太网联盟(UEC)相关联。UEC是由多家企业参与,旨在定义下一代基于以太网的RDMA网络架构的尝试。不过,英伟达预测,长期来看,并非只有单一“赢家”胜出,而是超大规模云厂商和AI运营商将根据各自需求,让多种传输协议并存。
在此背景下,MRC可被视为一个已进入实际使用阶段的“定制化AI以太网”案例。当UEC仍在发展之际,MRC已在微软基于GB200的集群和OpenAI的环境中实际运行。这表明英伟达在网络竞争中,正超越单纯的芯片供应商角色,作为事实上的架构设计者扩大其影响力。
从整个产业来看,此次发布明确了三大趋势。第一,随着AI的普及,以太网本身正迅速分化。像过去那样用一个以太网概念描述整个数据中心已愈发困难,缓存结构、拥塞控制、RDMA方式、AI专用传输技术都各自不同。第二,开放标准与专有实现的组合正成为新的常态。第三,仅认为UEC才是未来唯一答案的观点正在失去影响力,多种方式共存的“多极化” TP AI注意事项 使用TokenPost.ai基础语言模型进行了摘要。本文主要内容可能被遗漏或与事实不符。


