在企业快速引入人工智能(AI)的背景下,AI代理控制框架的缺失凸显为一项威胁因素,网络安全风险正急剧升高。Rubrik首席创新官卡维塔·玛丽亚潘警告称:"AI带来了巨大机遇,但同时,若其不受管理、缺乏指导地扩散,将使企业整体风险倍增。"
Rubrik近期通过其访谈系列"万物韧性:云、身份、AI"指出,AI代理的爆炸式增长正在扩大组织内非人类实体的范围,并因此扩大了安全攻击面。该公司特别强调,许多IT及安全决策者预测,未来一年内企业面临的网络攻击中,超过半数将由AI代理驱动。
为应对这一趋势,Rubrik提供了可实时监控和控制AI代理的专用控制层。该系统在生产环境中以激活状态将策略转换为实时控制,并持续执行日志记录与审计。玛丽亚潘特别提到,"代理回溯"功能正受到关注。该功能提供可将意外或恶意的AI行为结果恢复至原始安全状态的"倒带"能力,正成为现代AI运营环境中韧性的核心支柱。
在与Rubrik AI营销总监迈克尔·奥尔特加的对话中,也反复强调了当前企业面临的问题不仅在于引入技术,更必须预先规划AI代理的影响并执行控制政策。鉴于AI能成为加速组织创新的强大工具,亟需通过战略控制避免其潜力转化为不可逆的风险。
如今,AI代理的控制已被视为核心基础设施而非单纯的政策层面。企业要具备网络韧性,就必须在整个组织内全面建立能应对AI可能引发的新型攻击向量的技术预案与管理体系。专家们一致认为,这种战略应对能力将成为企业未来抵御变革浪潮的决定性竞争力要素。


