要解决的问题
标记和识别由 AI 生成的内容，服务于版权保护、合规要求和滥用治理。
核心方法
- 解码期统计水印：以绿名单方案为例，生成时根据密钥和上下文伪随机划分词表，对绿名单 token 的 logits 加偏置。检测方据此检验文本是否包含该方案的统计信号。它检测的是特定水印，不是所有 AI 文本；对质量的影响和误报率都取决于参数、文本长度与任务，不能保证人读起来没有区别。
- 来源元数据：在文件中附加可验证的来源信息，说明内容由什么工具生成、经过哪些编辑。
- 事后检测器：训练分类器，直接判断一段内容是否由 AI 生成，不需要生成时做任何处理。
代表工作
- A Watermark for Large Language Models（2023）：提出基于绿名单与 logits 偏置的文本水印，并给出统计检测方法。
- SynthID-Text（2024）：Google DeepMind 的文本水印方案，已在 Gemini 中部署。
开放问题
- 水印对改写、翻译等操作的鲁棒性。
- 误报率：人写的文本被误判为 AI 生成。
- 水印强度与生成质量之间的权衡。
- 跨模型的可检测性。
参考资料
相关专题
- 安全与对齐评测：滥用治理的一部分。
- 数据治理、法律与伦理：生成内容标识的法规要求。