谷歌(GOOGL)发布了新工具,旨在更便捷地构建开源AI开发环境。当地时间11日在美国亚特兰大举行的"KubeCon + CloudNativeCon"大会上亮相的这些工具,着重于降低运行人工智能环境的复杂性并提升其速度。此次发布还包含GKE托管Kubernetes服务的新功能"GKE Pod快照"。
谷歌推出的首款开源工具是"Agent Sandbox"。该工具能更轻松地构建隔离环境,以降低AI代理所使用的浏览器、数据库等外部应用程序的安全风险。由于存在AI模型通过代码编辑器生成恶意代码的威胁,此类隔离环境被视为网络安全的核心要素。
Agent Sandbox基于谷歌2018年发布的容器安全开源项目"gVisor",通过将容器与操作系统的敏感组件隔离,有效阻截AI生成的恶意代码渗透。谷歌云在其GKE中正式支持该工具,使开发者能够在基于云的Kubernetes集群中结合自动化基础设施管理使用。
此外,谷歌表示通过预置的"预热型"沙箱可提升AI任务执行速度。该技术通过在AI启动任务前预激活装载必要工具的容器,实现无需初始化时间即可立即运行。
同日发布的第二大核心功能"GKE Pod快照"聚焦于大幅提升大语言模型(LLM)的运行速度。通常LLM在运行前需经历移植大量组件至系统并进行设置的初始化过程,这可能导致超过10分钟的等待时间。谷歌解释称,Pod快照通过基于快照的恢复技术替代此初始化过程,实现从内存即时加载完整容器,部分案例中启动时间缩短80%以上。
谷歌云产品经理Brandon Royal在官方博客中提及:"GKE Pod快照适用于CPU与GPU驱动的AI工作负载,可将运行等待时间从'数分钟'缩短至'数秒钟'。"他强调此功能支持将空闲沙箱以快照形式保存并在需要时恢复,因此在节约计算资源的同时不影响用户体验。
与此同时,谷歌还将能最大化AI训练过程效率的"多层级检查点"工具开源发布。虽然AI模型训练出错时从保存的检查点恢复而非重启全流程的技术已广泛使用,但谷歌的MTC使该过程更快速简便。谷歌强调,这将助力企业更快地重新训练或更新AI模型,进一步缩短模型开发周期。
业界解读谷歌此次发布旨在解决AI开发与部署环境中的关键性时效与安全问题。特别是在智能体中心架构普及与大型AI模型商业化竞争白热化的背景下,开发者与企业由此获得了更高效、安全的选择方案。


