在崛起为AI时代核心基础设施的云原生技术浪潮中,红帽正提出新的解决方案。凭借基于开源技术的灵活基础设施和增强的安全性,红帽致力于构建能够最大化AI模型推理性能、同时实现企业战略与运营效率的企业级平台。
红帽近期在KubeCon + CloudNativeCon大会上正式发布了其开源推理平台“Red Hat AI 3”,正式展开市场攻势。该解决方案通过与Kubernetes的原生集成,为运营者、开发者和数据团队提供了一个基于单一控制面板、治理模型和数据源的协作环境。在此基础上,平台整合提供了AI Hub、生成式AI工作室、模型即服务等多种工具。
红帽强调与开源技术的互操作性。为便于顺利引入,其解决方案被设计为可与外部开放框架集成,并允许用户将定制化工具自由部署到平台上。这一战略顺应了云原生生态系统的多元化趋势,也契合了重视可靠性与透明度的企业客户需求。
红帽的OpenShift平台也在持续演进。近期发布的“OpenShift 4.20”版本大幅改进了虚拟化性能,使得虚拟机和云原生应用能够在单一平台上统一管理,从而实现了更灵活的混合运营环境。巴西国有银行Banco do Brasil正利用该功能运行基于GitOps的DevOps自动化流程。
红帽也在积极引入AI推理基础设施的下一代技术,如虚拟大语言模型和大语言模型分布式框架。特别是vLLM,它能根据查询的目的或复杂度,将其路由至合适的LLM,从而帮助高效运用计算资源。红帽首席技术官Brian Stevens表示:“AI基础设施的角色正逐渐向集成平台转移”,并指出未来目标是以vLLM为核心,将多种模型和加速器纳入一个统一架构。
另一方面,llm-d能够在多节点集群中可扩展地部署AI推理单元,从而实现AI的实际规模化。这为超越单节点的大规模分布式基础设施提供了保持性能与成本平衡的基础。
红帽在安全领域也领先一步。其最新版本包含了增强的集群安全功能以及用于保护软件供应链的基于可信认证的工具。同时,通过零信任AI策略,红帽构建了针对模型全生命周期的访问控制强化和持续用户身份验证机制。这被解读为是为了应对随着AI应用普及而日益增长的安全威胁所采取的主动措施。
当前,企业正从AI引入阶段进入创造实际投资回报的推理阶段,红帽的解决方案因能兼顾敏捷性与控制力而备受瞩目。其理念超越了单纯提供技术栈,而是考虑了企业治理和基础设施战略的集成哲学,正与市场上同时追求可扩展性和可靠性的需求相契合。
红帽正持续开发能够充分利用开源的开放性和定制自由度,同时满足实际工作所需的性能与安全标准的生产级平台。此类平台化战略预计将成为企业超越AI实验、迈向实现实际业务价值所需的核心基石。


