Anthropic正在调查其下一代人工智能模型"Claude Mitos"被未经授权访问的嫌疑。该模型被评估为强大到可能被用于高风险网络攻击。据悉，在有限测试公开当天，部分用户通过非公开在线论坛访问了该模型，这使AI安全控制的漏洞再次成为焦点。
彭博社于当地时间周二援引知情人士及经确认的文件报道称，一个小型用户群体访问了Anthropic的"Claude Mitos"预览版。据了解，这些人从模型公开当天起就持续使用，但截至目前尚未发现将其用于网络安全目的攻击活动的情况。据报道，相关情况也得到了一些截图和演示的支持。
Anthropic发言人表示："我们正在调查有关通过第三方供应商环境之一，对'Claude Mitos预览版'进行未经授权访问的报告。迄今为止，没有迹象表明相关活动超出了该供应商的范围，或者Anthropic自身的系统受到了影响。"
据报道，此次访问是通过一名负责Anthropic模型评估工作的外部承包商的账户进行的。据称，结合人工智能招聘及培训初创公司Mercor发生的数据泄露信息，找到了模型的位置。彭博社消息人士还提出，该群体可能也访问了其他尚未公开的Anthropic模型。
'受控公开'策略，暴露了供应链安全漏洞？
Anthropic此前曾表示，"Claude Mitos"的编码能力在寻找和利用软件漏洞方面，"可以超越除极少数顶尖专家之外的人类"。因此，其发布受到"Glasswing项目"下的严格限制。
预览版提供给了约40家机构，包括苹果（$AAPL）、亚马逊（$AMZN）、思科系统（$CSCO）、CrowdStrike Holdings（$CRWD）、谷歌、摩根大通（$JPM）、微软（$MSFT）、英伟达（$NVDA）等。目的是让各机构在自己的系统中测试该模型的性能和风险，并制定补救措施。
然而，这一事件被解读为表明"受控公开"实际上可能在最薄弱的环节崩溃。尤其是在并非直接渗透核心系统，而是仅通过合作方账户和泄露数据的组合就打开了访问途径的情况下，有人指出，仅靠传统的边界型安全难以阻止生成式AI时代的风险。
网络欺骗技术公司Arkavio Technologies的首席执行官Ram Varadarajan对SiliconAngle表示："这次'Claude Mitos'疑似泄露事件并非需要精心策划的攻击。"他指出："仅凭承包商、URL模式以及第一天的推测就能实现访问，这意味着在模型能力成为问题之前，'受控发布'的方式就已经在最薄弱的环节失败了。'访问控制'是政策而非结构，而政策可能会失败。"
美国政府内部也高度关注……AI网络安全竞争或将更加激烈
围绕"Claude Mitos"的访问权限，在美国政府内部也成为了一个敏感问题。据报道，国家安全局（NSA）和商务部下属的AI标准与创新中心已经获得了访问权限，财政部也在推进使用。这足以说明该模型被视为在防御和攻击两方面都具有战略意义的工具。
据了解，目前成功进行未授权访问的用户为避免被察觉，已克制了攻击性操作。但无论是否实际被滥用，仅凭一个强大的网络安全AI模型可能已脱离控制这一可能性，就足以加剧市场和机构的警惕。
Black Duck Software的软件供应链风险战略主管Tim Mackey也提出了类似观点。他认为，Anthropic宣传"Claude Mitos"的方式本身可能被视为一种挑战。虽然向选定的研究人员提供新的安全模型是有意义的，但对于被排除在外的外部群体而言，与其等待最终报告，他们更有动力尝试直接访问。
他特别指出，即使从防御者的角度看，仅凭像"Claude Mitos"这样强大的对抗性模型存在未授权访问的嫌疑，就足以加剧不安情绪。这意味着，安全负责人应将此次事件视为一个契机，检查如何将基于AI的网络安全能力融入组织运营，以及如何针对利用AI的攻击者快速扩展这些能力。
此次事件再次表明，与尖端AI模型的性能竞争同样重要的是"谁、通过什么路径、以多安全的方式访问"这个问题。随着AI产业日益高度化，核心风险可能首先在模型本身之外的供应链和认证体系中暴露出来。
TP AI注意事项 本文使用基于TokenPost.ai的语言模型进行摘要。正文中的主要内容可能被省略或与事实存在差异。