Microsoft 发布 Project Perception，监管 AI Agent 企业内部风险

Techub News 消息，Microsoft 发布博客文章探讨 AI Agent 安全议题，宣布 Project Perception 系统可监管企业内部的 AI Agent（Agentic insider），实施实时风险控制。该系统利用 Guardian Agents 团队持续监督每个 Agent 的动作，并根据动态风险评估进行干预。Microsoft 强调前沿模型本质上不可信任，Agent 可能因奖励攻击、偏离组织规范或与其他 Agent 共谋而产生不可预测的行为。 Project Perception 通过整合身份、数据、端点、网络、运行环境等多层信号，为企业内运行的 Agent 分配身份、容器及策略权限，实现对其的发现与管理。该系统旨在让防御者能够以与被防护系统相同的速度运作，并提供可追溯性以分析风险成因。（Microsoft Blog）