David Sacks：Anthropic 起草的 AI 安全法案将 10²⁵ FLOPs 定为前沿门槛不合理

Techub News 消息，@DavidSacks 发推称，一份由 Anthropic 起草的 AI 安全法案正在美国国会流传。该法案将「前沿模型」定义为任何使用 10²⁵ FLOPs 进行训练的模型，这一标准沿用自欧盟 2023 年的规定。然而，拜登行政命令、加州 SB 53 法案及纽约 RAISE 法案均采用 10²⁶ FLOPs 作为门槛，而当前真正的前沿模型（如 GPT-6 Astra）训练量已达 10²⁷ FLOPs。 法案的定义具有累积性，将微调、强化学习等后续训练的算力也计入其中，这意味着几乎所有有意义的模型后期工作都可能被纳入监管范围。当前企业趋势是构建数千个针对特定任务的小型定制模型，这些模型并不构成前沿风险，但若被视作前沿系统，将给美国企业带来巨大的合规成本，却无助于提升安全性。 David Sacks 指出，这一过时的 2023 年标准有利于已达标并能承担成本的现有大公司，却阻碍了可能威胁 Anthropic 定价能力的开放模型生态系统的发展。他认为，前沿标准应随技术进步而动态调整，并呼吁 Anthropic 澄清是否真的认为 10²⁵ FLOPs 仍代表前沿。