企业安全的中心正从“人”快速转向“人与AI”。随着AI代理正式投入业务现场，企业现在不仅需要管理员工的钓鱼应对能力，还需要管理非人类数字工作者的权限和行为。
KnowBe4 AI及数据部门副总裁Matt Duren在KB4-CON 2026活动上表示：“现代AI能做的事情非常庞大，而且更加智能”，“大多数领导者已经到了无法在人类劳动者和数字劳动者之间做出选择的阶段。”接着他强调：“今年的核心课题是如何将整个数字劳动力保护在同等水平。”
从“人为风险”到“代理风险”
据KnowBe4称，企业面临的威胁格局正在发生巨大变化。过去，安全管理核心是管理诸如员工被钓鱼邮件欺骗等“人为风险”，而现在，投入到组织内部工作流程中的AI代理正成为新的变量。特别是，AI代理的引入速度超过了治理和管控体系，这意味着提升生产力的同样速度也可能成为攻击者可利用的机会。
根据KnowBe4的“2025年人为风险现状”报告，45%的网络安全负责人将“持续演变的AI驱动威胁”视为最大挑战。这超越了单纯的技术问题，被视为需要重新构建企业整体运营风险管理体系的信号。
KnowBe4 加强AI代理可见性
为应对这些变化，KnowBe4提出了双管齐下的产品战略。第一是2026年第一季度推出的“AIDA Orchestration”。此功能是人工智能防御代理产品系列中的第八个代理，它能自动生成钓鱼模拟训练和安全意识教育，并按计划进行部署，甚至为每位用户设计定制化内容。
该过程利用了超过14亿条风险事件处理数据。简而言之，该结构是先分析每位员工容易受到哪种类型的威胁，然后自动提供相应的训练和教育。
第二是当前处于技术预览阶段的“Agent Risk Manager”。该产品旨在让安全团队一眼就能掌握组织内部有哪些AI代理在运行、它们执行什么任务、访问哪些数据和系统、以及人员如何与它们进行交互。
Duren表示：“安全团队首先要了解存在哪些代理”，“必须知道它们在做什么、访问什么、人类如何与该代理互动，以及最终对业务和人力带来什么影响。”
可解释的风险评分是关键
这些功能的基础是KnowBe4的“SmartRisk”评分。目前，该评分系统基于涵盖人类行为和AI代理活动的316项指标进行运作。公司表示重组了现有评分模型，重点加强了“可解释性”。
这意味着安全负责人能够清晰理解评分为何上升或下降。未来还将增加由AI自动提供个人或组织层面的风险分析与建议的功能。
在谈到过去的模型时，Duren解释说：“因为使用了自行训练的AI模型，可解释性不高”，“现在我们采用了更复杂的算法，同时在内部结构上改为积极利用AI和代理。”
不依赖单一模型，采取“目的别优化”战略
KnowBe4并未依赖某一个特定的大型语言模型，而是选择了根据任务组合最合适模型的“混合”结构。这是一种根据不同任务类型分别考量成本、准确度和延迟，再配置最优模型的方式。
Duren解释说，根据统计方式不同，内部实际运作的代理数量可能达到10到20个的水平。他还指出，随着AI代理增多，重要的不仅是性能，还有“信任”。
对于超过一半的首席信息安全官推迟引入AI的原因，他分析称：“因为还无法验证代理在做什么以及为什么这么做。”这不仅是单纯的安全问题，也是会拖慢企业决策和引入速度的经营问题。
AI引入延迟本身也是新风险
Duren将这种状况描述为“危险的停顿”。因为AI代理的运行速度快到无法与人类相比，即使微小的权限滥用或设置错误也可能瞬间演变成重大事故。
他表示：“解决了这个问题的企业能够以从未见过的速度运转”，“代理以机器速度运转，因此即使是小风险也可能被非常迅速地利用。”
最终，企业安全不再仅仅依靠员工培训。分析认为，未来的竞争力将取决于能否同时控制人为失误、AI代理的故障以及两者之间的交互。随着AI代理的扩散正式加速，“代理风险管理”很可能不再是可选项，而是将成为核心安全体系。
TP AI 注意事项 本文使用基于 TokenPost.ai 的语言模型进行了摘要。可能会遗漏正文重要内容或与事实有所出入。