OpenAI 将为 ChatGPT 和 Codex 在欧盟生成的文本添加不可见水印。该公司周一在博客文章中表示，将在未来几周内向欧盟符合使用资格的用户推出这项功能。所有套餐中符合使用资格的用户都将纳入适用范围，但公开资料并未说明具体的资格标准。
背景与语境
欧盟《人工智能法案》（EU AI Act）的透明度规则已于 8 月 2 日生效，要求人工智能企业以其他系统能够识别的方式标记 AI 生成的内容。OpenAI 表示，将在欧盟启用水印，以响应这项规则。
水印并不是在文本中加入肉眼可见的符号，而是通过微妙地调整模型选择词语的方式，形成检测器能够识别的模式。由于痕迹留在文本本身，即使复制粘贴也会随文本一同保留；不过，OpenAI 解释说，这种方式不会识别用户身份。
OpenAI 还随公告发布了 textGrain 技术报告。该报告由宾夕法尼亚大学（펜실베이니아대학교）和耶鲁大学（예일대학교）的研究人员共同撰写，介绍了使用密钥来调整下一个词预测的做法。经过数百次这样的调整后，便可以利用文本和密钥检测 AI 生成的内容。OpenAI 表示，启用水印后，模型性能没有出现显著变化。
这项举措也与其他公司的做法形成对照。Anthropic 两个月前宣布，将在全球范围内为 Claude 生成的文本添加水印；据报道，一些用户对此表示不满，称他们提供了指令、语境并作出了决定。报道称，2024 年 OpenAI 开发出文本水印后，曾暂缓推出，原因包括担心用户可能转而使用没有水印的竞争对手产品。Anthropic、Google、Meta、Microsoft 和 OpenAI 均属于承诺遵守欧盟人工智能生成内容行为准则（EU 실천 강령）的企业。
这则消息意味着什么
欧盟用户今后或许能获得识别 AI 生成文本的线索。但水印并不是一种总能在所有文本中被可靠识别的标记。在 OpenAI 的一项测试中，将 10% 的词替换为同义词后，检测率从约 92% 降至 66%。该公司表示，短文本、数学答案和翻译文本也可能难以检测。
因此，检测结果不适合作为确认作者身份或判定违规的唯一依据。没有水印并不能证明文本是人写的。文本可能太短或经过大量编辑，也可能由其他公司的 AI 生成。反过来，即使检测到水印，也只能说明 OpenAI 的系统生成或处理了文本的一部分，无法显示其中包含多少人的判断、编辑或创造性劳动。
例如，如果检测器未能在某篇文章中找到水印，仅凭这一结果很难断定文章是人写的。这意味着还应一并考虑文本长度、编辑程度，以及是否使用了其他 AI 工具等可能性。
除欧盟适用范围外，全球范围内使用 OpenAI API 的开发者也可以在部分模型上启用水印。不过，水印默认处于关闭状态；OpenAI 表示，推出时不会在全球范围内默认启用文本水印。也就是说，面向欧盟用户的适用措施与 API 开发者的自选使用应当区分开来。
已确认的事实与仍未知的信息
已确认的事实
- 欧盟符合使用资格的 ChatGPT 和 Codex 用户将在未来几周内陆续适用这项功能。
- 欧盟范围内，所有套餐中符合使用资格的用户都将适用。
- 全球范围内的 API 开发者可以在部分模型上启用水印，但默认设置为关闭。
- 水印会在选词中留下不可见的模式，不会识别用户身份。
- 初期检测器将仅向获准的研究人员和专业团体开放，以帮助评估其可靠性并促进负责任的使用。
仍未知的信息
- 欧盟所称的“符合使用资格的用户”具体需要满足什么标准？
- 获准的研究人员和专业团体何时可以使用检测器？
- 水印将适用于哪些具体模型，推出时间表又是怎样的？
读者应留意什么
- 如果你在欧盟使用 ChatGPT 或 Codex，应确认自己的账户是否属于适用范围，并留意服务公布的启用时间。现有资料没有列出具体的使用资格标准。
- 如果需要判断文本由谁撰写，不应仅凭水印检测结果下结论。OpenAI 表示，初期检测器仅向获准的研究人员和专业团体开放。
- 使用 API 的开发者应注意，水印默认处于关闭状态，而且目前仅列出部分可适用的模型。仅凭公开资料无法得知具体的模型名单和时间安排。
