英伟达今日在其GTC开发者大会上发布了名为BlueField-4 STX的参考架构,可供众多硬件制造商用于构建人工智能集群存储设备。此次发布的架构因明确指出需要新型存储系统来支持大规模上下文训练的AI系统而备受关注。英伟达CEO黄仁勋表示:"NVIDIA STX为AI基础设施提供了模块化基础,确保AI工厂以最高性能运行。"
该架构的核心组件是已于1月公布的BlueField-4数据处理器(DPU)。DPU能将基础设施管理任务从服务器主处理器卸载,从而为应用程序释放更多计算容量。其职责包括处理GPU与闪存存储设备间的数据流量。
英伟达表示BlueField-4 STX包含其Spectrum-X以太网交换机与ConnectX-9 SuperNICs。这些组件支持RDMA技术,使数据无需经过服务器中央处理器(CPU)和操作系统即可直接传输,从而显著加速数据流。
BlueField-4 STX可提供较先前存储系统架构最高五倍的数据处理速度,能源效率也有望提升四倍。作为该架构的首个机架级实施方案,经优化的CMX存储系统设计将用于存储大型语言模型(LLM)的键值缓存信息。
CMX将AI集群的键值缓存存储于高速闪存设备中,通过将核心数据管理任务从CPU卸载至其他芯片来提升性能。同时,该系统通过避免运行存储设备用于减少数据丢失的复杂算法,有效规避了硬件开销。
英伟达透露合作伙伴将从2026年下半年开始出货BlueField-4 STX系统,目前甲骨文(Oracle)、Mistral AI及CoreWeave等众多早期客户已制定该技术的应用计划。


