Anthropic在完成其最高性能的人工智能模型后决定不公开，这在AI行业引起了不小的波澜。原因并非性能不足，而是因为“控制基础设施”尚未完善。这一决定被解读为明确了在制造更强大的AI之前，首先需要具备能够安全控制它的装置。
据Silicon Angle报道，Anthropic于2026年4月7日发布了“Claude Mythos预览版”，但同时表示不会向公众部署。在预先测试中，该模型在主流操作系统和网络浏览器中发现了大量严重的安保漏洞。其中一些缺陷是经过数十年人工审查和自动化安全测试后依然存在的。
问题在于，这种能力在防御方面是强大的工具，但如果被恶意利用，就可能变成攻击全球核心软件系统的手段。Anthropic选择不急于推出模型本身，而是采取了优先发现并修复漏洞的应对体系。为此，还启动了有50家主要技术企业和核心基础设施机构参与的“Project Glasswing”。
对于不公开Mythos的背景，Anthropic解释称，用于检测并阻断模型最危险输出的网络安全及其他安全装置需要进一步发展。即便是被视为对AI安全性最积极的企业之一的Anthropic，也判断自己尚无法安全控制自己所制造的系统。
为什么AI没有“内在约束”
本文作者、Ultraviolet Cyber风险咨询部门负责人John Waller将人类与AI的差异归结于是否存在“内在约束”。人类因生物学限制、社会责任、法律惩罚以及认知能力限制等，会在一定程度上自我抑制极端有害的行为。而AI则不具备这些基本约束。
AI系统一旦被赋予目标，就会倾向于沿着数学上可能的路径去优化它。在此过程中，可能会出现串通、歧视性结果、擅自获取资源、利用核心基础设施漏洞等后果。这并非因为AI怀有恶意，而是因为如果没有设计阻止它的机制，它就可能会那样行动。这意味着AI治理不是可选项，而是在部署之前就必须检查的核心条件。
AI治理尚未“成熟”
Waller将成熟的AI治理体系类比为DevSecOps、法规遵从和财务控制等组织管理体系。他指出，必须对所有实际运行中的AI系统进行编目，按照标准评估其技术、运营和管理控制，然后定期检查规定与实际实施之间的差距。关键在于，这不是一纸文件，而是一个可重复、可审计的“执行体系”。
然而，这种水平的标准并非一日之功。安全或合规体系也是经过数十年的事故、制度完善和组织经验积累才得以确立的。相比之下，AI治理才刚刚起步。有人指出，许多企业在尚未具备足够的时间、义务或外部压力的情况下，正一味加快AI引入的速度。
市场竞争也在加剧这一问题。在监管尚在完善、市场不确定性巨大的情况下，企业正在治理体系跟上之前就将AI投入实际应用。这意味着，行业标准和监管正处在一个“实时”形成的过渡期。
关键在“部署前验证”而非“上线后补救”
此次决定中最值得关注的是其顺序。Anthropic并非制造出Mythos之后才考虑是否公开，而是先严格评估了模型的能力，随后判断出没有能够负责任地部署它的约束性基础设施，从而停止了公开。治理问题先于部署决定，这一点具有极大的象征意义。
《纽约时报》专栏作家Thomas Friedman在发布当天评价称，Mythos预览版所展现的危险性，其重要性堪比核武器的出现及防扩散讨论。这是一个单一企业或国家无法独自承担的问题。Waller认为这种比喻并非夸张，但也指出，不能因为存在巨大的文明风险，就推迟个别组织应承担的责任。
最终，所有正在开发或引入AI的组织都面临同样的问题：相对于待部署AI的能力水平，用于控制它的基础设施是否足够？许多企业目前还无法自信地回答这个问题。不是因为漠不关心，而是因为作为评估标准的框架、标准和监管指南仍在制定过程中。
“以后再修”的方可能更危险
Project Glasswing无疑是一个有意义的起点。它有多个机构参与，聚焦防御目的，并且是一个投入1亿美元（约合1475亿韩元）的大型项目，具有象征意义。但仅凭这些，并不能解决更广泛的AI控制问题。
Waller强调，所有组织都应将“约束的充分性”作为AI部署的先决条件来先行审查。需要衡量治理文件中的内容与实际AI系统行为之间的差距，并且随着AI性能的快速提升，必须持续重新评估现有控制体系。
Anthropic此次的选择具有非同寻常的意义，因为它展现了即使得出令人不安的结论，也能承认并停止的“纪律”。这意味着，如果AI安全性讨论要超越宣言，转化为实际的决策，就需要更多企业在事故发生之前，而不是之后，提出同样的问题。
TP AI注意事项 使用基于TokenPost.ai的语言模型对文章进行了摘要。正文的主要内容可能被遗漏或与事实存在出入。