随着企业将人工智能（AI）从试点引入阶段扩展到实际业务中，大规模的“推理”成本与运营复杂性正成为核心挑战。因此，将存储、计算和管理体系整合到一个通用基础上的“水平云”正崛起为企业AI战略的中心。
红帽公司首席技术官（CTO）组织副总裁兼首席工程师斯蒂芬·瓦特（Stephen Watt）最近在红帽峰会2026活动上指出，初期利用OpenAI或Anthropic这样的“前沿模型”供应商是比较现实的，但一旦超过一定规模，同样的方式反而可能变得低效。
他表示：“在目前这个时间点，不从OpenAI或Anthropic这样的前沿模型提供商开始是不现实的。”但同时指出：“但当令牌（Token）成本达到一定规模后，继续停留在那种结构里也是不合理的。”他补充说：“问题在于，当你想摆脱时，有什么选项，以及如何执行。”
核心在于，企业不再仅仅依赖单一大型模型，而是需要建立一个能够同时管理成本与性能的开放式混合云架构。这种方式因能减少对特定少数AI模型企业的依赖，并确保符合企业内部政策的运营控制权而受到关注。
借助“水平云”降低成本，提升控制力
红帽正通过AI 3.4扩展“模型即服务”与分布式推理功能。业界因此越来越认识到，AI基础设施应从个别部门的实验环境转变为企业级共享的统一基础平台。
瓦特介绍了新西兰电信运营商One New Zealand Group的案例，指出在引入基于红帽OpenShift的水平电信云平台后，服务交付时间缩短了40%，运营成本降低了30~45%。以往从接单到完成需耗时数月的工作压缩到了几天之内。
他说：“每个部门都在用不同的方式进行实验和试点。”“但最终试点阶段结束后，会得出共同的观察结论，基于此，中央IT组织可以判断引入哪个平台来降低总拥有成本（TCO）并提高效率。”
这意味企业AI的引入不能再停留在单个项目层面。因为多个部门各自对接不同模型和系统的结构，在成本控制、安全与治理方面必然会面临巨大的局限性。
根据问题性质连接不同模型……推理路由作为替代方案
红帽为这种转型提供了一个实用工具——‘vLLM语义路由器’项目。该技术不是将所有请求都发送给一个巨型模型，而是根据问题的性质，自动将推理请求分配给针对特定领域训练过的开放式权重模型。
例如，物理学相关问题会发送给该领域优化的模型，历史相关问题则发送给另一个专业模型。公司方面表示，这样既能提高准确性，也能降低推理成本。
瓦特强调：“我们可以让推理请求始终流向性能最佳的模型。”“这正是开源核心前提之一——构建‘定制化解决方案’的能力。”他还表示：“红帽就像是提供了必要的食材，让企业能够做出最适合自己的‘菜谱’。”
企业AI战略：从追求便捷转向“自主运营”
此次发言表明，企业AI市场正从“快速引入”为中心转向“可持续运营”为中心。初期，OpenAI、Anthropic等大型模型供应商的便捷性是优势，但随着实际服务规模扩大，令牌成本和供应商锁定问题可能成为负担。
最终，企业AI基础设施的竞争力，可能更多取决于之后如何优化推理架构并夺回运营主导权，而不是首先使用哪个模型。市场正在关注，未来水平云和开放式混合模型能否成为企业AI的“出口”及成本削减方案。
TP AI注意事项 本文使用基于TokenPost.ai的语言模型进行了摘要。正文主要内容可能被遗漏或与事实不符。