随着驱动企业系统的主体从人迅速转向"自主型AI智能体",现有安全体系的局限性正变得日益明显。有人指出,以人类账户和可预测的工作流程为前提设计的基础设施,无法有效跟上24小时运作并在多种环境中穿梭的智能体活动。
门罗安全公司的首席产品与战略官拉明·帕拉萨特在接受与谷歌云AI智能体相关的采访时表示,企业至今为止都是以"人类员工"为中心构建安全环境,但今后必须根据大规模AI智能体正式涌入的情况,重新调整结构本身。他解释说,AI智能体在速度和可扩展性方面具有优势,但缺乏人类那种能凭直觉规避零日攻击或提示注入等巧妙威胁的判断力。这意味着,一旦接收到恶意指令,它们极有可能照单执行。
"意图分析"正取代静态规则成为核心
帕拉萨特强调,在自主型AI智能体时代,仅靠对已知威胁做出反应的方式是不够的。他指出,现有的防御体系依赖于预先定义的规则和基于签名的检测,而现在需要的是一种能够实时解读网页内容或命令"意图"的结构。
他解释说,有了这种方式,才能即时拦截零日漏洞利用、社会工程攻击以及尚未被发现的新型威胁。这表明企业安全正从事后响应转向实时情境分析。尤其是在AI智能体动态地读取内容并决定行动的环境中,仅靠静态的拦截列表很难跟上响应速度。
门罗安全公司提出了一种以浏览器作为初始防御点的安全架构。其方式是,在可视化分析用户所见画面的同时,一并读取HTML和DOM结构以检测威胁。这种方法更侧重于机器间的自动响应,而非人工操作。帕拉萨特表示,可以在无需人工点击按钮的情况下实现实时防御,同时让智能体在其之上持续运行,并向安全团队提供额外的信息。
安全部署方式也正向"即时应用"转变
随着自主型AI智能体的普及,安全解决方案的部署方式也在发生变化。企业不再像以前那样经历漫长的集成项目,而是希望安全功能能够直接嵌入到他们已经开发和运行AI的环境中。因此,安全厂商也在强化基于平台的流通模式。
帕拉萨特解释说,为顺应这一趋势,他们的智能体已经上架到谷歌云智能体市场。这是为了减少安全部署过程中的摩擦,使其能够快速应用。这意味着,在AI智能体时代,安全性也正以"即时性"作为竞争力。
运营方式也在改变。随着基于自然语言的界面取代传统复杂仪表盘进入安全管理领域,管理员可以像直接对系统下达命令一样查询和修改策略。例如,要求显示当前的拦截列表,或指示将针对特定威胁的响应策略从"记录"改为"拦截",AI便会处理这些操作。这样一来,安全运营的门槛得以降低,同时策略变更的速度也可能加快。
"影子AI"扩散……对看不见的活动进行管控成为课题
随着自主型AI智能体的增多,企业面临的另一个问题是可见性与控制力。有评价认为,所谓的"影子AI"如今已不限于部分未经授权的工具,而是渗透到了几乎所有的网站和应用程序中。在这种情况下,通过创建特定服务列表进行追踪的传统方式实际上会很快失效。
帕拉萨特指出,所有网站和应用程序都可能成为潜在的影子AI,基于列表的管理方式从创建的那一刻起就开始过时。他建议,应从智能体创建的初始阶段就植入策略和权限,并在其实际执行任务的过程中持续检查提示污染、访问权限和行为规则。
这意味着企业安全正从在网络边界外拦截智能体,转向在其整个生命周期内植入控制机制。随着自主型AI智能体越来越多,我们需要的不是像管理人类一样管理它们的方式,而是要建立一个能够匹配智能体数量和速度的"动态控制模型"。
归根结底,这场变革的核心在于,不能仅停留在将AI应用于业务的层面,而是必须将安全体系本身也围绕AI进行重新设计。对于企业而言,引入能提升生产力的自主型AI智能体已非可选,而是大势所趋,但与此同时,安全架构的重组也已成为一项刻不容缓的任务。
TP AI注意事项 本文使用基于TokenPost.ai的语言模型进行摘要。正文的主要内容可能存在疏漏或与事实不符的情况。

