OpenAI 为欧盟 ChatGPT 文本添加隐形水印，轻编辑即可大幅降低检测率

Techub News 消息，OpenAI 宣布为欧盟地区的 ChatGPT 文本及 Codex 代码输出添加名为 textGrain 的隐形水印，以响应欧盟《人工智能法案》对 AI 生成内容进行机器可读标记的要求。该水印通过微调模型选词留下隐藏统计模式，不添加隐藏字符或特殊标点。 根据 OpenAI 公布的测试数据，该水印检测器对约 150 个单词的未编辑文本检测率约为 66%，对约 300 个单词的文本检测率可升至 92%。然而，轻微编辑会显著削弱水印：在 300 单词文本中，每 10 个词替换 1 个同义词，检测率会从 92% 降至 66%；若每 4 个词替换 1 个，检测率则骤降至 17%。 OpenAI 承认当前文本水印技术尚不成熟，因此检测器暂不向公众开放，仅接受经批准的研究人员和专业组织的申请。在欧洲以外地区，ChatGPT 水印默认关闭，但全球 API 客户现可通过项目或组织设置为其选定的模型启用此功能。（BeInCrypto）