红帽正式宣布将在英伟达最新AI GPU平台"Vera Rubin"发布的同时提供支持。随着AI模型规模呈指数级扩大,企业IT基础设施难以跟上的现象日益加剧,红帽此举相当于全面重组了应对策略。尤其值得注意的是,此次合作旨在从硬件发布首日就实现软件整合,凸显了两家公司紧密的协同关系。
红帽计划通过其核心产品红帽企业Linux(RHEL),为英伟达下一代AI基础设施Vera Rubin平台提供即时支持。该芯片是一款拥有3360亿个晶体管、50 Petaflops运算性能的高性能GPU,其特点是相比Blackwell GPU,训练速度提升高达250%。此外,Vera Rubin基于英伟达的Grace CPU架构设计,旨在能够处理具有数万亿参数的新一代模型。
红帽首席技术官克里斯·赖特解释称,英伟达硬件发布周期加快至每年一次,打破了以往数年的升级周期,这是推动此次合作提前的背景。他表示:"此次合作是双方长期工程协作的进一步深化","我们正致力于将红帽的软件栈与英伟达的硬件完美结合。"
红帽不仅将支持硬件集成,还计划全面支持基于Kubernetes的集群运营平台OpenShift、用于推理和模型部署的软件层,以及运行AI代理。此外,英伟达的OpenRM驱动程序和CUDA工具包也将通过RHEL存储库直接提供,并将应用英伟达的"机密计算"框架,以确保AI全生命周期的加密保护。
英伟达预计,未来AI模型的参数数量将从目前的1万亿个扩大到今年年底的10万亿个规模。因此,不仅模型推理需求激增,解决复杂任务所需的"推理模型"需求也在急剧增长。英伟达企业AI产品部门副总裁贾斯汀·博伊塔诺分析道:"这些使用AI代理的推理模型正导致每年高达5倍的令牌使用量增长。"他进一步指出:"这导致计算需求实际上已达到了难以承受的水平。"
Vera Rubin平台在安全方面也包含了创新性变革。特别是通过"Rackscale Confidential Computing"功能,将硬件级别的加密保护扩展到CPU、GPU乃至整个网络互连。这相当于将可信执行环境(TEE)扩展到GPU,形成一个统一的安全域。博伊塔诺表示:"如今,模型开发者不愿将模型交给非自己运营的数据中心","此次的安全功能将消除这种担忧,使国家机构和大型金融机构能够在自己的数据中心安全地使用尖端AI。"
预计Vera Rubin的采用将主要在所谓的"新云"运营商、超大型金融机构以及构建AI基础私有基础设施的公共机构中快速普及。红帽期望此次合作不仅是简单的先发制人,更将成为瞄准大规模AI创新的战略转折点。


