客户现在能识破你用 ChatGPT 写的内容吗?关于 OpenAI 新文本水印的 5 个误区

Close-up of a fountain pen nib resting on textured cream paper in warm amber light

1 min read

OpenAI 在测试其为 ChatGPT 文本设计的新型隐形水印时,识别出 AI 写作的成功率约为 92%。随后,测试人员替换了一段 400 个 token(约 300 个英文单词)文本中四分之一的词语,检测率便跌至 17%。这两个数字由 PPC Land 根据 OpenAI 自己公布的数据报道,几乎解释了小企业主需要了解的关于这条新闻的一切。

先说简短版本。10 月 5 日,OpenAI 宣布,欧盟用户在所有套餐下通过 ChatGPT 和 Codex 生成的文本将开始带有隐形水印,并在随后几周内逐步推出。原因在于欧盟《人工智能法案》第 50 条:该条要求生成文本、图像、音频或视频的 AI 系统提供商,“在技术可行的情况下”以机器可读的方式标记其输出内容。据 ITdaily 报道,欧盟以外的 ChatGPT 用户不会看到任何变化;而在 API(其他应用调用 OpenAI 模型所用的开发者接口)中,除非客户主动选择开启,否则水印保持关闭。

这里所说的水印并不是肉眼可见的印章,而是一种统计模式:模型会微调用词选择,使专门的检测器日后能够识别,而人类读者却毫无察觉。正因为如此微妙,这个话题才引来了大量自信满满却错误的说法。下面我们逐一检验其中五个。

误区 1:“客户现在可以把我的文案粘贴到检测工具里,抓到我用了 ChatGPT”

结论:目前是错的。OpenAI 尚未向公众开放其检测器。发布初期,只有经过批准的研究人员和专业机构才能使用。你的客户无法打开某个网站,粘贴你的通讯稿,然后从 OpenAI 的水印系统得到“是”或“否”的答案。

这种情况可能会改变。监管机构最终可能要求提供公开的验证工具,其他公司也可能自行开发。但就目前而言,这个水印是面向研究人员和监管部门的合规机制,而不是客户手中的测谎仪。

误区 2:“我在美国,所以这和我没关系”

结论:就你自己写的内容而言基本正确,但这不是全部。如果你在得克萨斯州或安大略省使用 ChatGPT 写作,你的文本不会因这次推出而被加上水印。不过,即使是从不离开北美的一人企业,也可能在以下三种情况下受到影响:

  • 你的外包人员可能在欧盟。一位在葡萄牙的虚拟助理,或一位在德国用 ChatGPT 起草文稿的自由文案,交给你的就是带水印的文本。
  • 你使用的应用可能选择开启。由于 API 设置由每家基于 OpenAI 构建产品的企业自行决定,你订阅的某款写作工具可能出于自身原因开启水印。
  • 规则会扩散。美国多个州正在制定各自的 AI 披露法律。我们的通俗指南新的州级 AI 法律对一人企业意味着什么介绍了相关进展。

实际建议是:今天你不需要做任何改变,但应该不再假定 AI 生成的文本永远无法追溯。

误区 3:“稍微改一改就能抹掉水印,所以这一切毫无意义”

结论:对了一半。从 92% 降到 17% 是真实的,数据来自 OpenAI 自己的测试。改写四分之一的词语,信号就基本消失了。翻译和大幅度的改述很可能会进一步削弱它。

但“容易去除”并不等于“毫无意义”。水印的设计目的是大规模识别未经修改的原始输出,比如垃圾内容农场、虚假评论和批量生产的宣传内容。它从来不是用来监管一位先用 AI 起草通讯稿、再改写其中一半的面包店老板的。

这里还有一个给小企业的隐性启示:如果你的内容经过 25% 的改写后意思毫无变化,那么无论如何你都应该做这次改写。原始的 AI 文本往往听起来和别人的原始 AI 文本一模一样。加入你的案例、你的价格、你的本地细节和你的观点的那次修改,恰恰也是让你的文字值得一读的那次修改。

误区 4:“AI 检测工具已经能证明内容是谁写的”

结论:错误,而且 OpenAI 自己也这么说。在公告中,该公司说得很直白:“未检测到水印并不能证明内容出自人类之手。”干净的结果说明不了任何问题。阳性结果只能说明,在某个时刻,有一个带水印功能的模型生成了其中部分文字。

第三方 AI 检测工具(根据写作风格推测,而非读取水印的工具)的记录更加不可靠。OpenAI 曾在 2023 年因准确率低而关闭了自己的 AI 文本分类器,也有自由职业者因客户轻信检测分数而被冤枉。如果哪天客户拿着某个检测百分比来质问你,你完全有理由询问这是哪款工具得出的,以及它如何处理误报,也就是被错误标记为 AI 的人类写作。

反过来说,你也不要用这些工具来评判自己的外包人员。请根据准确性、文风和成果来评价他们的工作。

误区 5:“最安全的做法是永远不承认自己用 AI”

结论:错误,而且越来越错。在没人过问的时候,隐瞒 AI 的使用还行得通。如今客户会问,合同里也开始加入相关条款,欧盟和美国多个州的监管机构正在制定披露规则。一家一直悄悄把 AI 草稿当作纯手工作品交付的企业,正在给自己的声誉埋下一颗小小的定时炸弹。

更安全的做法平淡而诚实:确定你用 AI 做哪些事,把它写下来,并用一句话告诉客户。大多数客户只关心两件事:事实是否准确,以及他们的机密信息是否保密。把这两点讲清楚,关于 AI 的疑问通常也就到此为止了。

如果你还没有写这样的政策,我们关于撰写一页纸 AI 政策的指南大约只需一个小时。

明智的一人企业这个月该做什么

这些都不值得恐慌,但确实是整理以下三件事的好时机:

  1. 在关键位置加上一行披露说明。比如:“我们使用 AI 工具辅助起草和编辑。每一份内容都由真人审阅、核实并定稿。”把它放在你的服务页面或提案模板中。
  2. 检查你的客户合同。如果你交付的是文字、设计或翻译,请加入一项条款,说明是否可以使用 AI 工具以及由谁审核输出内容。当客户事后声称你承诺过“100% 人工”时,这能保护你。所有权问题与此紧密相关,我们关于你的企业发布的 AI 内容归谁所有的文章对此做了详细说明。
  3. 认真编辑。把每一份 AI 草稿都当作初稿。加入只有你知道的具体信息。大声读出来。如果它听起来像一份不针对任何人的宣传册,那就说明还没完成。

如果你与欧盟的客户或外包人员合作,也请问问你的外包人员使用哪些 AI 工具,以及是否会向你说明。这是一场两分钟的对话,却能避免日后一场长得多的谈话。

关于 ChatGPT 水印的结论

欧盟的水印是真实存在的,但范围有限且十分脆弱。它不会让客户抓到你,目前也不涉及美国用户,而且一位有心的编辑就能把它冲淡。它真正释放的信号是未来的方向:AI 生成的文本正在从隐形走向被标注,一项法规接着一项法规。在那样的世界里能够从容自处的企业,正是那些已经公开使用 AI、深度编辑内容,并能用一句话讲清楚自己工作流程的企业。

所以,这里有一个值得在下一位客户提问之前就想好答案的问题:如果有人想确切了解 AI 在你的工作中扮演什么角色,你能在三十秒内说清楚吗?

相关阅读

发表评论

滚动至顶部