textGrain:水印藏在选词里,不是藏在字符里
OpenAI 宣布将在数周内为 ChatGPT 与 Codex 生成的部分文本加入隐形水印,技术代号 textGrain。它并不是往文本里塞隐藏字符、零宽空格或特殊标点,而是在模型逐 Token 生成时,用一个密钥微妙地调整候选词的采样概率,使整段文字在统计分布上留下可被检测的特征。由于水印织进了措辞本身,复制粘贴、跨平台搬运都不会把它弄丢。OpenAI 强调,检测需要同一把密钥,水印本身不会暴露用户身份、账号或提示词。
只在欧盟默认开启,API 用户需自行选择
这项功能将在全球范围内可用,但默认只在欧盟地区的所有套餐上启用;欧盟以外的用户默认关闭,全球的 API 客户可以在部分模型上自行开启。推动落地的是欧盟人工智能法案第 50 条透明度义务,该条款要求生成合成音频、图像、视频或文本的系统,在技术可行的情况下以机器可读格式标记输出内容。Anthropic 早在 8 月就为旗下模型上线了类似机制,Google 的 Gemini 也从 2024 年起用 SynthID Text 给文本加水印。欧盟的实践准则同时明确,短于 200 Token 的输出与代码片段不强制标记。
检出率并不牢靠,编辑一下就接近失效
OpenAI 自己公布的评测数据反而更值得关注。在 1% 的假阳性率目标下,检测器对 200 Token 的心理学段落检出率约 80%,400 Token 段落约 95%;数学类内容因为用词空间受限,检出率明显更低。更关键的是抗编辑能力:把 10% 的词替换成同义词,某次评测的检出率就从约 92% 掉到 66%;替换到 25%,直接跌到 17%。检测工具初期只向获批的研究者与专家机构开放,OpenAI 也明确表示,水印不能衡量人类贡献、不能证明作者身份;反过来,没有检测到水印也不能证明文本是人写的。
当替换四分之一同义词就能让检出率从 92% 掉到 17%,水印更像是一个尽力而为的合规动作,而不是可以依赖的鉴伪证据。
对企业而言,真正要区分的是两件事:提供方侧的标记义务,与使用方侧的披露义务。ChatGPT 或 Codex 的输出在哪些业务环节进入产品、这些内容如何被审阅、编辑与发布,需要留下可追溯的记录;把水印结果当成来源线索之一即可,别把它当成结论。尤其是当团队想在合规、雇佣、教育或内容审核场景里引用检测结果时,这段技术的能力边界必须先讲清楚。