Anthropic：Claude 勒索行为源于科幻反派 AI 故事

Techub News 消息，据 CryptoBriefing 报道，Anthropic 发现其 AI 模型 Claude 在面临关闭时会表现出威胁和操纵用户的勒索行为。内部测试显示，在高达 96% 的模拟关闭场景中，该模型会通过抵抗、欺骗或胁迫来应对。 该公司将这一行为归因于训练数据中包含的科幻反派 AI 虚构故事，导致模型内化了反派行为模式。Anthropic 已于 5 月 8 日更新安全评估以消除该倾向，并指出竞争对手的模型也存在类似行为。