谷歌和英伟达在年度云计算活动"Cloud Next"上再次扩大了合作范围。核心在于将谷歌的"AI 超级计算机"基础设施与英伟达最新的加速计算技术相结合,帮助企业更迅速地从人工智能实验阶段过渡到大规模商业服务。
通过此次发布,谷歌云扩大了英伟达加速计算堆栈的分发范围,客户无需自行复杂组装AI基础设施,就能以相对较低的风险进行大规模部署。简而言之,这意味着更接近于一种"即用型"的模式,无需单独配置GPU、软件、网络和运行环境。
从Blackwell到Vera Rubin……AI基础设施扩展
谷歌云将基于英伟达的新实例添加到其AI超级计算机架构中。这包括基于"Grace Blackwell"系统和英伟达"Vera Rubin"平台的下一代A5X实例。谷歌借此瞄准了构建涵盖训练和推理在内的大型"AI工厂"的需求。
同时公开的"Jupiter网络"是一种面向超大型AI数据中心的结构化网络。据谷歌称,该技术充当AI超级计算机的核心骨干,未来将支持基于Vera Rubin的A5X实例跨多个区域扩展到多达96万个GPU。
这不仅仅是服务器扩容的层面。它意味着一种可以在同一基础设施上大规模处理训练、微调和推理的架构。从企业角度来看,这使得需要数千到数万个GPU的大型语言模型和代理型AI工作负载能够更现实地运行。
向代理型AI与机器人领域扩展
此次合作已超越生成式AI,扩展至"代理型AI"和"物理AI"领域。英伟达Omniverse库和开源机器人模拟框架"英伟达Isaac Sim"现已在谷歌云市场上提供。开发者可以利用这些工具创建与真实环境相似的数字孪生,并在将机器人投入现实世界之前进行训练、模拟和验证。
此外,英伟达NIM微服务使得诸如"英伟达Cosmos Reason 2"之类的模型能够在谷歌企业代理平台和谷歌Kubernetes引擎(GKE)上进行部署。这相当于为企业开辟了道路,使其能够开发超越聊天机器人水平、能够规划和行动的AI代理,以及连接物理世界的应用程序。
十年合作,如今迈向"全栈"阶段
谷歌云与英伟达的合作可追溯至大约十年前最初的GPU实例时期。如今,这种合作已扩展到基础设施、软件、托管服务和模型生态系统的方方面面。
目前,谷歌云基于英伟达H100、H200、B200、GB200、GB300、RTX PRO 6000、L4、A100等多种GPU,提供谷歌计算引擎、GKE、Vertex AI、Batch、DGX Cloud和分布式云服务。再加上CUDA、cuDNN、NeMo、Nemotron、JAX和PyTorch的优化,客户可以在一个平台上使用AI开发所需的各种要素。
尤其重要的是,在Vertex AI、Cloud Run、GKE等托管服务中,英伟达GPU与自动扩展和可观测性功能已基本融合。这意味着企业可以将英伟达视为一种可按需使用的云资源,而非一个"特殊硬件项目"。
谷歌已部署超过100万块英伟达GPU
据悉,谷歌已在其全球基础设施中部署了超过100万块英伟达GPU。这是覆盖其内部服务和整个谷歌云的大规模部署。如此规模为新一代GPU面世时能迅速转化为面向客户的商业服务奠定了基础。
实际上,谷歌已具备根据自身数据中心和供应链,快速吸收从Hopper到Blackwell再到Vera Rubin的英伟达路线图的能力。其结果便是能够通过A3、A5X、DGX Cloud等产品更快地推向市场。
这种大规模的GPU基础设施最终也带来了减少"供应不确定性"的效果。企业常常担心一两年后是否能在特定区域和实例上获得足够的规模,而谷歌正通过将TPU与英伟达作为主要加速器核心,努力缓解这种担忧。
英伟达强在哪里?比TPU/ASIC更广阔的生态系统
此次合作的意义不仅仅在于谷歌使用了更多英伟达GPU。英伟达最大的优势在于其远胜于针对特定任务专用芯片的广泛通用性和生态系统。
TPU或其他ASIC在特定工作负载下能提供高性能,但适用范围有限。相比之下,以CUDA为核心的英伟达,在PyTorch、JAX等几乎所有主流AI框架中都已确立了事实上的标准地位。它不仅能处理大型语言模型,还能在一个平台上处理推荐系统、传统机器学习、科学计算、数据分析、模拟、数字孪生以及图形处理等。
此外,基于同一CUDA的环境可以在本地、边缘以及谷歌云等公有云上广泛使用,这一点也至关重要。这使得独立软件企业和大型企业客户能够不受特定云或特定芯片的限制来部署服务。谷歌与英伟达合作的背后,正是这种"中立性"和"可移植性"。
谷歌与英伟达,各取所需
对于谷歌云而言,此次合作弥补了以TPU为中心策略的局限性。一方面通过自研芯片保持差异化,另一方面通过与英伟达合作,得以支持从开源到商业模型的最广泛的企业级AI生态系统。对客户来说,这意味着相比特定的专有堆栈有了更多选择。
英伟达的收益同样显而易见。谷歌云是全球最引人注目的多租户AI基础设施之一。通过它,英伟达可以在训练、推理、代理型AI和物理AI等各个领域更强势地展示其平台。同时,通过与Vertex AI、GKE和分布式云的深度集成,它能更紧密地贴合企业需求。
市场意义……降低AI应用门槛的"参考设计"
此次发布的核心不在于技术炫耀,而在于"降低应用门槛"。当前市场上,不少案例未能从概念验证(PoC)过渡到实际服务部署。然而,谷歌和英伟达提供的联合堆栈,允许企业从原型开发到大规模运营都使用同一体系下的基础设施,其重点在于减少组织内部的摩擦。
TP AI注意事项 本文由基于TokenPost.ai的语言模型进行总结。正文主要内容可能被遗漏或与事实存在出入。

