亚马逊网络服务(AWS)为构建本地人工智能(AI)基础设施发布了大规模新产品系列,强化其涵盖云端和内部系统的AI战略。此次发布的核心是名为"AI工厂"的新概念,这是一种在客户数据中心内整合构建完整AI堆栈形态的服务。AWS强调,该服务能在独立且合规的环境中快速构建AI基础设施。
AI工厂以全栈形式提供,融合了英伟达(NVDA)的加速计算技术、AWS Trainium芯片、高速低延迟网络、高能效基础设施,以及亚马逊Bedrock和SageMaker。其主要目标客户是政府机构以及金融、医疗保健等受高强度监管的行业。客户可利用自有电力和通信网络基础设施,因此构建灵活性高,AWS则负责整体基础设施的运营和生命周期管理。
AWS通过此次发布也进一步加强了与英伟达的合作。预告了将与英伟达的Grace Blackwell、下一代Vera Rubin架构进行联动,并且下一代Trainium4芯片也将集成英伟达的NVLink Fusion技术。英伟达超大规模及HPC部门副总裁伊恩·巴克(Ian Buck)表示:"高性能AI需要加速器、网络、软件有机连接的全栈系统","通过与AWS的合作,我们将把这种能力扩展到客户环境内部。"
采用新型AI芯片Trainium3的EC2 Trn3 UltraServer也已正式发布。该系统最多可搭载144个Trainium3芯片,计算性能最高可达上一代的4.4倍,能效提升4倍。搭载了低延迟网络,可实现低于10微秒的芯片间通信速度。基于OpenAI的开放模型GPT-OSS基准测试结果显示,芯片处理量提升了3倍,推理响应速度加快了4倍,训练成本也降低了50%,已有客户报告了这些成果。Anthropic、Metagenomi、Reco、Netdot.ai等主要AI初创公司被确认为早期客户。
此外,AWS还发布了基于英伟达GB300 NVL72平台、面向全球最大规模AI推理工作负载的P6e-GB300 UltraServer。它在EC2实例中拥有最高的GPU内存和计算密度,是针对超大规模语言模型推理和高难度AI计算的优化模型。它在AWS Nitro系统基础上运行,并与弹性Kubernetes服务(EKS)集成,同时确保了安全性和运营效率。
AWS的目标超越了单纯的性能改进,精准瞄准了公共机构和大规模产业管辖领域对"主权AI(Sovereign AI)"的需求。这也与此前各大科技公司试图攻克数据难以传输至国外云端的欧洲市场等动向相呼应。此次发布被解读为AWS意图覆盖公有云和私有环境,重新定义AI基础设施全球标准的一步棋。


