随着企业的人工智能(AI)战略从实验阶段转向实际服务运营，AI存储基础设施正崛起为决定盈利能力的关键变量。分析指出，即使斥巨资确保图形处理器(GPU)和张量处理器(TPU)的供应，若无法及时提供数据，投资效果也可能大打折扣。
数据直接网络公司(DDN)的联合创始人兼首席执行官亚历克斯·布扎里(Alex Bouzari)在谷歌云Next 2026现场接受采访时指出，大型AI工作负载的瓶颈已不再是模型开发本身，而在于计算设备能持续运行多久。他表示：“需求正在急剧增长”，“企业正从测试AI能做什么的阶段，转向全面生产阶段。”
据布扎里称，近期已有企业客户内部每月处理“数万亿个” token的案例。在这种情况下，单纯增加高性能半导体是不够的。他解释说，要实现实际的投资回报率(ROI)，需要一个能提高每小时可处理token数量的数据引擎。
谷歌云，三年内数据规模扩大4倍… GPU利用率决定盈利能力
谷歌云存储部门高级总监阿萨德·汗(Asad Khan)表示，随着AI的普及，流入云平台的数据规模正在迅速增长。他解释说，谷歌云的数据处理规模在过去三年内增长了四倍。这意味着，随着企业将更多数据迁移到云端用于训练和推理，AI存储基础设施的重要性也随之提升。
汗特别强调，GPU和TPU的利用率实际上决定了总拥有成本(TCO)。这些设备价格昂贵且供应紧张，低利用率会直接转化为成本负担。他提到了Harmonic公司案例，称该公司在引入谷歌云的托管Lustre (Managed Lustre)后，设备利用率提高了六倍。此前，其AI投资回报未达预期，但改变存储结构后情况发生了变化。
DDN与谷歌合作，每秒处理10TB… TPU利用率超95%
双方共同设计的托管Lustre基于DDN的EXAScaler平台。根据谷歌云Next 2026上公布的最新功能，该服务的处理速度已达每秒10太字节(TB)。与此前水平相比，性能提升了10倍。
布扎里表示，DDN和谷歌的共同客户已将TPU利用率提升至95%以上。这意味着昂贵的AI计算资产可以近乎“饱和”状态运行，直接有助于提高AI投资效率。
汗解释说，这一成果不仅仅是简单地引入软件，而是网络、虚拟机(VM)和存储配置共同优化的“协同设计”结果。他强调，每秒10TB（即80太比特）的吞吐量，已远超其他超大规模云服务商所能提供的水平。
推理性能亦获提升… 首Token响应时间缩短超40%
此次合作已从AI训练扩展至推理领域。双方致力于优化推理工作负载的关键要素——键值(KV)缓存。汗解释说，不再仅由主机内存处理KV缓存，而是将其卸载到谷歌云托管Lustre上，可将生成首个Token所需的平均时间缩短40%以上。
这在近期重要性日益凸显的“代理式AI”环境中意义尤为重大。代理式AI超越了简单的问答形式，能够自主执行任务并进行连锁判断，因此响应延迟和基础设施成本管理很可能成为决定服务竞争力的关键。
Salesforce、索尼本田移动也采用… 向全行业扩展
客户群也在迅速扩大。Salesforce ($CRM) 正利用托管Lustre运行其大型企业工作负载，而索尼本田移动则将其用作训练其自动驾驶系统“Afila Intelligent Drive”的多模态平台。
学术界的采用也在增加。通过支持研究人员和博士生直接使用AI基础设施，它正成为培养未来投入企业现场的下一代AI人才的基础。这意味着，AI存储基础设施的需求不仅来自企业，也在向教育和研究领域扩散。
布扎里表示：“代理式AI不会消失”，“如果不利用它，可能会难以实现差异化，也难以保持竞争力。” 但他补充说，不应该盲目引入，而应通过合适的技术和合作伙伴“谨慎”地推进。
归根结底，AI竞争的焦点正在从获取更多芯片，转向如何高效地驱动已获得的芯片。在市场从实验阶段迈向生产阶段的当下，AI存储基础设施已不再是一项选择，而是支撑盈利能力的必要基础。
TP AI注意事项 本文基于TokenPost.ai语言模型进行摘要。正文主要内容可能被省略或与事实不符。