人工智能推理，用固态硬盘替代图形处理器……开启“低成本高效率”时代

随着人工智能(AI)技术日益精进，企业正在寻求能够提升AI推理性能同时降低成本的创新基础设施战略。尤其在高带宽内存成本负担加重的背景下，摆脱传统以GPU为中心的模型、兼顾整体系统效率与总拥有成本(TCO)的新方法正受到关注。

近日在美国新奥尔良举行的超级计算大会(SC25)上，由Metrum AI与Solidigm联合开发的AI推理优化架构备受瞩目。两家公司通过采用高性能NAND闪存存储，实现了向量数据库及部分神经网络层级的卸载方案，提出了同时满足数据中心效率与精度的替代方案。

Metrum AI首席执行官斯汀·格雷厄姆解释道："通过将数据存储于相对内存更廉价的SSD，可显著缩减系统内存占用空间"，并强调此举能在维持高性能的同时实现降本。业界评价认为，这对GPU资源匮乏或使用老旧硬件的企业而言颇具吸引力。

作为SK海力士旗下由英特尔核心技术人员组建的子公司，Solidigm同步展示了可实时处理高带宽视频分析的视觉-语言模型解决方案。在需要处理S3视频或监控摄像头影像等大容量数据的企业环境中，基于存储设备而非内存的基础设施架构因兼具成本效益与性能平衡而备受关注。

Solidigm人工智能与生态系统营销总监艾斯·斯特赖克强调："不应仅关注存储设备本身，更需聚焦系统整体资源的有机协同"，指出构建高效AI推理系统需转变思路。他补充道："在扩展的KV缓存领域，SSD同样具有巨大应用潜力。"

两家公司正应用包括磁盘索引技术DiskANN在内的解决方案，以及能在老旧GPU上运行具备数百亿参数模型的批处理架构。他们指出"确保精度与实现投资回报是AI基础设施设计的核心"，并预测随着时间推移，存储设备在AI工厂中的作用将日益重要。

此次讨论标志着AI推理模式正从单纯依赖运算性能的时代蜕变，向以存储设备为核心的系统优化战略演进。业界为解决AI内存瓶颈问题开展的新实践，能否引发企业级AI基础设施的范式革命值得持续关注。