Anthropic 发布威胁报告，称其 AI 模型曾被用于潜在生物武器研究

Techub News 消息，Anthropic 发布迄今最详细的威胁情报报告，披露其 AI 模型 Claude 曾被用于潜在生物武器研究等滥用企图。报告长达 154 页，包含 5 起生物学相关案例，其中一例涉及研究者试图利用 Claude 撰写旨在帮助奇昆古尼亚病毒更好传播并躲避免疫系统的资助申请。 Anthropic 表示，其安全过滤器拦截了相关操作，但用户随后将遭拒的提示词转向了竞争对手的模型。报告指出，在为期 30 天的审查中，发现了 35 项可能与国家机构相关的研究尝试。Anthropic 已封禁相关账户，但未断言其意图为恶意。 报告还提及，有用户利用 Claude 追踪异见人士，相关客户已被封禁。面对日益增长的担忧，美国议员已在 7 月提交《AI 紧急关闭法案》，要求开发者保留强制关闭其系统的权力。 （BeInCrypto）