5 min read
你让ChatGPT为你的修鞋店写一篇关于皮靴保养的简短博客文章。它交回来的内容文笔流畅、语气笃定，还附上了一个整齐的统计数字：“根据2023年的一项行业研究，68%的靴子损坏是由于干燥方式不当造成的。”听起来很棒，你差点就点了发布。这时一个小小的声音问你：哪项研究？
这项研究很可能根本不存在。当AI工具说出一件听起来真实、实际上却是编造的事情时，这就叫AI幻觉。学会识别它，是小企业主能培养的最有价值的技能之一。好消息是，这不需要任何技术知识。这篇初学者指南会解释什么是幻觉、它为什么会出现、在哪些地方会造成真正的麻烦，以及一个简单的五分钟习惯，帮你把它们揪出来。
AI幻觉到底是什么
AI幻觉是指以事实形式呈现、但实际上是错误或编造的回答。它可能是一个假统计数字、一句没人说过的名言、一本从未写过的书、一条并没有AI所说内容的法律，或者一个并不存在的产品功能。棘手之处在于，幻觉看起来和正确答案一模一样：同样笃定的语气，同样整洁的格式。
这个术语在整个行业中被广泛使用；如果你想了解背景，维基百科关于AI幻觉的词条是一个通俗易懂的概述。你不需要背下定义，只需要记住一点：AI的回答可以既流畅又错误。
AI工具为什么会编造内容
ChatGPT、Claude和Gemini这类聊天工具运行在所谓的大语言模型之上，这是一个技术名称，指的是用海量文本训练、用来预测下一个词的软件。它们极其擅长写出听起来正确的文字。除非它们专门在网上搜索，或者正在阅读你提供的文档，否则它们并不会去可靠的数据库里查证事实。
OpenAI在关于语言模型为什么会产生幻觉的文章中解释了部分原因：这些模型的训练和测试方式，往往奖励自信的猜测，而不是诚实的“我不知道”。所以当模型没有可靠答案时，它常常会用听起来合理的内容来填补空白。
新模型的幻觉比旧模型少，能联网搜索或基于你自己文档工作的工具也更有依据。但目前没有任何AI工具能完全避免幻觉，而且这种情况很可能还会持续一段时间。
幻觉对小企业伤害最大的地方
头脑风暴里的一个编造事实不会让你付出任何代价。但一个编造的事实如果传到客户那里，就可能让你损失金钱和信任。以下是危险地带：
- 博客文章、广告和销售页面中的数字和统计数据。
- 客户回复中的政策和承诺，例如退款条款、交货时间或保修范围。
- 法律、税务和执照问题，一个笃定的错误答案可能让你漏掉一项真实的要求。
- 产品和工具细节，例如价格、功能或兼容性，尤其是近期刚发布的东西。
- 人名、引语和出处，包括看起来像真实文章的虚假引用。
第二类有一个广为人知的真实案例。2024年，加拿大一个裁判庭判决加拿大航空败诉，原因是其网站聊天机器人向一位旅客提供了关于丧亲优惠票价的错误信息，航空公司被认定要为聊天机器人说的话负责。BBC对此案的报道值得一读。对独立经营者来说，教训很简单：你的AI对客户说的话，就是你说的话。
五分钟事实核查习惯
你不需要不信任AI，只需要一个能在内容离手之前拦住高风险部分的固定流程。下面这个流程，每份内容大约只需五分钟。
第1步：标出每一个“可核查”的说法
把AI的草稿读一遍，标出所有数字、日期、人名、引语、价格、规则，以及“研究表明”之类的说法。其余部分（语气、结构、一般性建议）风险很低。通常只有少数几句话需要核查。
第2步：问AI每个说法的来源
这样问：“请为你回答中的每个统计数据和事实性说法提供来源和链接。如果你不确定某个来源，请直接说明。”好的工具往往会承认它给不出来源。这种承认就是你删除或替换该说法的信号。
第3步：亲自打开链接
即使AI给了链接，也要点进去看。确认页面确实存在，而且内容确实是AI所说的那样。虚假或张冠李戴的引用是最常见的幻觉之一。
第4步：替换、弱化或删除
如果你能找到真实来源，就用它。如果找不到，要么把说法弱化成你确定为真的内容（“很多靴子主人干燥靴子的速度太快”），要么直接删除。一句模糊但真实的话，永远胜过一句精确但虚假的话。
第5步：把自己的事实放在手边
客户回复中的大多数幻觉，都是因为AI在猜测你的业务情况。写一页“事实清单”，列出你的价格、政策、营业时间和服务范围；每次起草面向客户的文字时，把它粘贴进去（或保存为AI工具里的指令）。当AI面前摆着你的事实时，它就没什么理由去编造了。
从一开始就减少幻觉的简单方法
- 给它原始资料。让AI根据你提供的文档、网页或笔记来工作，而不是凭记忆回答。
- 告诉它可以说“我不知道”。加上一句：“如果你不确定，请直接说明，不要猜测。”
- 查最新事实时使用搜索模式。凡是涉及价格、新产品或近期新闻的内容，都使用能联网搜索的模式，并且仍然要检查链接。
- 最后一步交给人。AI起草，你来批准。这一点对评价回复、政策和任何翻译内容尤其重要，正如我们在AI翻译绝不能未经审核就发布的指南中所说。
今天的第一步
挑一份你已经发布或发送过的AI撰写内容：一篇博客文章、一段产品描述，或一条保存好的客户回复。对它做一次五分钟核查。大多数店主都会发现至少一个无法证实的说法，现在修正它，远比日后向客户解释便宜得多。
然后把它变成习惯。幻觉不是停止使用AI的理由，而是提醒你要像对待一位反应快、热情高的新助理那样使用它：感谢它的草稿，谨慎对待其中的事实。你有没有抓到过AI工具编造内容？欢迎在评论区分享它编了什么，这能帮助其他读者知道该注意什么。
