企业正在将“代理型AI”从概念验证（PoC）阶段投入实际业务，“AI运行时安全”正成为核心课题。随着AI超越单纯生成答案的层面，进化成交织于系统之间、代表用户进行判断和执行的阶段，出现了一种诊断：现在需要一种能够在“行动”的瞬间执行策略的控制体系。
多云应用安全与传输企业F5的副总裁拉姆·普尔纳钱德兰最近在谷歌云Next活动中表示：“这个问题非常困难。关键不仅仅是保护数据，而是确保代理是为谁工作、只查看被允许的数据，并且其实际行为伴随着适当的审计追踪。”
他指出，采取事后追加现有安全体系的方式已难以应对。因为从前端办公自动化到后端流程重新设计，在企业整体从“云原生”向“AI原生”转变的潮流中，AI代理需要跨越多个系统边界，并在被授予用户权限后，在数毫秒内执行业务。
仅监控数据包已不足够……“推理层”的可视性成为新标准
F5的解决方案工程副总裁加里·纽解释道，代理型AI的安全不能再停留在仅查看网络数据包或API调用的层面。这意味着现在必须能够洞察每个代理是在何种背景下、带着何种意图做出决策的。
他表示：“这种‘护栏’在推理层能最有效地发挥作用。代理实际做出决策和解释数据的点，正是能够实施大规模安全防护的核心位置。”
据此，F5正在通过在其应用交付与安全平台内进行更新，在AI做出决策的“推理时刻”加强可视性和策略执行功能。这被解读为将AI运行时安全从单纯的监控提升为实时控制体系的尝试。
上市前的“AI红队”检查也是必需的……IBM：“遭受入侵的企业中，97%未实施访问控制”
企业AI安全的另一支柱是“持续性测试”。F5表示，他们运营着一种结构：通过AI红队，在正式部署前假设各种攻击向量来检查代理的漏洞，并将其结果重新反馈到作为运营环境策略控制工具的“AI护栏”中。
这种做法与近期的安全统计数据也相吻合。IBM报告显示，遭受入侵的组织中，有97%实际上并未建立AI访问控制。这表明，事前的对抗性测试和运营前的验证流程正从可选转变为必需步骤。
对于企业而言，AI模型建成并非终点。当新的数据涌入、新的模型被连接时，代理的性能和判断质量可能会随着时间的推移悄然动摇。这就是所谓的“漂移”问题。
普尔纳钱德兰副总裁表示：“需要持续监控系统。当新数据和新模型涌入时，可能再也无法达到最初构建时的效果。因此，可观测性至关重要。”
企业AI扩散中的决胜点是“可信赖的自动化”
此次讨论表明，在企业加速引入超越生成型AI的自主执行型代理之际，安全的重点正从基础设施保护转向“行为验证”。特别是，AI运行时安全被评估为一项基础技术，它独立于模型性能竞争，将决定实际业务部署的成败。
归根结底，企业想要的不仅仅是更聪明的AI，更是“可信赖的自动化”。随着代理型AI代替人类承担越来越多的工作，在推理层的控制、持续观察和前期测试体系，很可能将作为企业引入AI的基本条件被确立下来。
TP AI注意事项 使用基于TokenPost.ai的语言模型对文章进行了摘要。本文可能遗漏主要内容或与事实不符。