← 返回 Blog

检测到 AI 水印,能说明什么?

文本水印给内容审核多了一条线索。产品真正要设计的,是证据不足时如何表达、复核和纠错,而不是把检测结果直接变成处罚。

放大镜在文稿里发现蓝色信号,旁边的审核清单仍有多个问题等待核查
文章目录

一篇稿件被标记之后#

假设一个内容平台要求投稿者说明 AI 的使用情况。编辑收到一篇署名文章,检测工具提示发现水印,作者却说:“观点和资料都是我的,只用 AI 整理了表达。”

接下来怎么办?自动退稿、要求补充说明,还是继续核查内容?这是一个假设场景,但选择哪条路径,会直接改变产品对作者的态度。

我的判断是:水印结果可以触发复核,处罚则需要另外的证据和明确规则。 产品经理要先解释结果能支持什么,再决定按钮后面发生什么。

水印藏在什么地方?#

OpenAI 的 textGrain 在选词中嵌入不可见统计信号,供检测器识别。官方说明

配套技术报告解释,生成时,密钥与前文共同影响下一步选词;检测时,用文本和密钥检验对应的统计关系。“熵预算”限制为留下信号而减少多少选词变化,在可检测信号与表达变化空间之间作取舍。理论性质有其假设,不能直接当成实际部署保证。

可以把它想成文稿中一条供机器检查的线索。编辑依然要把四个问题分开:这段文字经过了什么生成过程,作者完成了哪些工作,文中的事实是否可靠,以及稿件的使用授权是否清楚。一次检测无法替代这四项审核。

数字先说明测试条件#

官方在目标误报率 1% 下测试 ELI5 问答:心理学类内容约 200 tokens 时检出率为 80%,400 tokens 时约 95%,数学类更低。另一个 400-token 英文同义词替换测试中,替换 10% 的词后,检出率从约 92% 降至 66%。两项测试的基线不同,不能把 95% 接到后一个对照里。评测说明

Token 是模型处理文本的单位,不等于一个汉字;这些数字也不能直接变成中文稿件的长度门槛。

还要特别区分两个问题:“没有水印的文本,有多少会被误报?”与“这篇被标记的稿件,有多大概率来自 AI?”前面的目标误报率回答第一个问题。要回答第二个,还需要知道送检内容的构成、检测能力和适用条件,不能给被标记的稿件贴上“99% 是 AI”的标签。

对上面的投稿平台,我会先问:投稿主要是短评还是长文?会经过多少轮修改?是否包含引用和多人协作?这些条件与测试材料差得越远,越需要自己的验证。

把结论写在它能支持的位置#

官方明确了边界:命中无法衡量人的贡献、识别用户、验证事实或确定权属;未命中也不能证明是人写的。结果边界

以下是我的产品设计建议。

首先,审核页面应把检测结论写成“发现对应水印信号”,同时显示检测范围和工具版本。不要把结果扩写为“作者没有独立创作”,更不要自动推断作者用了哪个账号。

其次,保留“证据不足”的位置。篇幅太短、超出支持范围、服务不可用,都应有单独的状态和原因。一次未完成的检查如果被显示成“未发现问题”,审核员就可能误以为系统已经确认了安全。

最后,审核动作要回到平台事先公布的要求。如果要求的是披露 AI 辅助,编辑需要核查披露是否充分;如果要求核实事实,就去检查引用和原始材料。不能在发现信号后,临时把规则改成“任何 AI 参与都不接受”。

投稿审核先确认检测是否适用,再记录信号,随后结合稿件规则人工复核,并保留申诉纠错入口
本文的产品流程建议。检测提供线索,复核负责把线索放回具体规则和材料中判断。

让作者有办法补充证据#

在假设的投稿场景中,我会允许作者补充资料来源、版本变化和使用说明。审核员需要解释争议在哪里,例如披露内容不完整,或引用无法核对。作者才知道该补充什么,而不是面对一个无法解释的分数。

复核记录可以很简单:检测结果是什么,检查了哪些材料,依据哪条规则作出决定,还有哪些地方无法确认。不要为了证明“人工写作”,默认要求作者交出全部私人聊天记录。收集范围应与争议有关,并说明用途。

申诉也应能改变结果。若补充材料足以纠正判断,页面状态和后续处理应同步更新。团队还要记录这次误判来自哪里:检测信号本身有误、适用范围判断错了,还是审核员把有限证据解释过头了。三种问题需要不同的修复。

接入之前,先做一轮自己的测试#

10 月 5 日起,全球 API 部分模型可选开水印,默认关闭;欧盟符合条件的 ChatGPT、Codex 输出随后数周逐步加入。检测器限获批研究者和专业机构。上线范围

因此,本文不是一个任何平台今天都能直接接入的功能教程。若将来具备访问条件,我会先准备来源明确、获准用于测试的材料,再按实际投稿方式做验证:

  • 按长度和语言分组。 分开看短评、长文、中文和混合语言,避免平均数掩盖某一组失效。
  • 覆盖真实编辑过程。 保留修改前后版本,观察正常润色、节选和引用后,结果是否仍可解释。
  • 单独检查误报。 在确认未加水印的材料上统计被误标的情况,并由人复查,不能只统计成功检出的样本。
  • 测试审核员如何理解结果。 看他们会不会把“未检出”理解成“纯人工”,把“命中”理解成“整篇机器写作”。

如果某类材料不稳定,就先限制适用范围;如果主要问题是误读,就调整文案、培训和操作流程。验收不能只盯着检测器的分数,还要看它进入工作流之后,是否制造了新的错误决定。

回到开头那篇稿件,最有帮助的产品应该让编辑知道还要查什么,让作者知道可以补充什么,并让团队知道哪里判断错了。水印的价值,最终要由这些具体的审核动作来兑现。

来源与边界#

  • 发布与实验来源: OpenAI《Our approach to EU text provenance rules》,2026 年 10 月 5 日。上文实验数字及开放范围均来自该机构公告。
  • 机制来源: Xiang Li 等,来自宾夕法尼亚大学、耶鲁大学和 OpenAI 的作者,《textGrain: Entropy-Calibrated Watermarking for Language Model Text》,2026 年 10 月 5 日。第 1—3 节说明生成、检测、熵预算和理论前提。
  • 本文边界: 未独立复现实验,未试用受限检测器,也没有中文投稿平台的实测结果。投稿场景、审核状态、申诉和测试流程均为本文建议,不是已完成的个人项目成果,也不是法律意见。