AI 幻觉案例：4 个真实事件，以及怎么识别

AI 幻觉就是一个说得很笃定、实际上是错的，或者根本没有依据的回答：一个从没判过的案子，一句没人说过的话，一个差了两年的日期。模型并不是在撒谎，它只是在预测看起来合理的词，所以编出来的细节读起来和真的没两样。下面是四个有据可查的案例、它们的共同点，以及发布 AI 初稿之前可以做的一个简短检查。

AI 幻觉的四个真实案例

1. 引用了不存在判例的法律诉状（2023）。 两名纽约律师在 Mata v. Avianca 一案中提交了一份诉状，引用了 ChatGPT 编造的法院意见。2023 年 6 月 22 日，P. Kevin Castel 法官对这两名律师和他们的律所罚款 5,000 美元，并认定存在恶意，理由是他们明知这些案例有问题却有意回避，还向法庭作了误导性陈述。法官也提到，使用可靠的 AI 工具获得帮助本身并无不妥。问题出在没有核实它的输出。

2. 编造退款规定的聊天机器人（2024）。 Air Canada 的聊天机器人告诉一位客户，他可以在行程结束后再申请丧亲票价。但航空公司自己的网页写明，已经发生的行程不能退款。2024 年 2 月，不列颠哥伦比亚省的一个仲裁庭裁定 Air Canada 要为聊天机器人说的话负责，并驳回了“机器人是独立主体”的说法。面向客户的工具里出现的幻觉，最后会变成你自己的声明。

3. 带有虚假来源的咨询报告（2025）。 Deloitte 澳大利亚为就业与职场关系部做的一份评估里，出现了编造的引用和虚构的法院引文。一位学者发现，报告里引用的一些著作根本不存在。Deloitte 修订了报告，披露自己用过生成式 AI 模型，并同意退还 44 万澳元合同的最后一期款项。就连有审核流程的专业团队也没能发现。

4. 产品演示里一句错误的“第一次”（2023）。 在 Google 为聊天机器人 Bard 做的发布宣传里，机器人说詹姆斯·韦伯太空望远镜拍下了太阳系外行星的第一张照片。天文学家指出，第一张系外行星图像是 2004 年由另一台望远镜拍到的，当天 Alphabet 的股价也跟着下跌。这句话流畅、具体、让人很容易相信，这正是这类错误难以察觉的原因。

这些案例有什么共同点

它们全都藏在看起来很正常的文字里。有四种模式反复出现：

带名字的具体信息。 案件名称、报告标题、作者和引语。不管存不存在，一条引用看起来都很对。
最高级和“第一”。 “第一个”“唯一的”“最大的”。这些话听起来很权威，也很容易说错。
规定和政策。 退款条款、法律上限、截止日期。模型会用“这类规定大概会这么写”来填补空白。
没人打开过来源。 每个案例里的说法，只要花两分钟查一下就会露馅。

给自己的初稿做五分钟检查

不用任何特别的工具，这个方法对任何有 AI 参与的初稿都管用，从一封邮件到一份报告都行。

把每一条可以核对的论断都标出来。 人名、数字、日期、引语、“第一/唯一/最多”之类的说法、规定、价格，以及任何附带来源的内容。
圈出一旦错了会出问题的那些。 客户的数据或法律引用，比一般性的观察重要得多。
逐条打开来源。 搜索确切的标题、案件名或引语。如果模型给了链接，就打开它，读一读它所支持的那一句。
“找不到”本身就是一个结论。 如果找不到说法一致的来源，就删掉这条论断，改成“尚未证实”的说法，或者换成你能引用的内容。
把改好的文字再读一遍。 修改常常会留下生硬的接缝，而准确的初稿读起来也应该像你写的。

想看更详细的版本，包括让模型列出自己存疑之处的提示词，可以看我们的核查 ChatGPT 的 6 步清单。如果你更关心的是文章读起来像不像 AI 写的，而不是内容真不真，识别写作中 AI 习惯的 10 点清单讲的就是这一面。

在 Unflag 里怎么做

论断很多的时候，事实核查可以帮你做第一轮筛查。它属于 Unflag Plus，免费账号用不了。

打开事实核查并登录。网页版至少需要 50 个词，Plus 每次最多可输入 10,000 个字符。
粘贴 AI 初稿，开始核查。
Unflag 会提取文本中的论断，并逐条上网搜索。你会得到总体置信度、摘要、每条论断的分析和来源。
每条论断都会得到一个结论：真实、虚假、部分真实、误导性或无法核实。
重要内容一定要打开它背后的来源看看。“无法核实”就是字面意思，不等于“虚假”，而结论只是一条需要你去确认的线索，不能代替你读来源。
改正初稿后，再用重写或 AI 人性化让它读起来更自然。AI 人性化会尽量保留价格、百分比之类的数字，但每次改写之后都请再核对一遍数字。

截至 2026 年 10 月，网页版 Unflag Plus 为每月 8.99 美元或每年 45.99 美元。应用内按周或按年通过应用商店付费。

新一代 AI 模型还会产生幻觉吗？

会，只是频率取决于模型、话题，以及它能不能联网搜索。能浏览网页或阅读你提供的资料的模型，比凭记忆作答的模型更少出现没有依据的说法。没有哪家厂商声称这个问题已经消失，所以核对人名、数字和引语的习惯依然有用。你看到的任何比率，都只是厂商或研究者针对某一次测试给出的数字，不能保证你的初稿也是这样。

日常写作中幻觉藏在哪里

工作邮件和报告： 统计数据、竞争对手的信息，还有“行业标准”之类的说法。
求职信和个人简介： 模型自己补上的日期、职位和奖项。
博客文章和营销文案： “研究表明”之类的句子，以及编造的专家引语。
摘要： 多出一个原文根本没提过的观点。
医疗、法律和金钱话题： AI 只用来准备问题，答案要问有资质的专业人士或看官方来源。

这种检查做不到什么

没有任何工具能保证抓出所有错误，Unflag 也一样。基于网络搜索的事实核查受限于它能搜到什么，而一个论断完全可能既无法核实又是真的。如果你的课程、公司或出版方有 AI 使用规定，请照着做，包括是否需要说明用过 AI。

我们是怎么写这篇文章的

我们读了每个案例已发表的报道（Bloomberg Law、Daily Hive、TechRadar 和 Space.com，截至 2026 年 10 月），把这里的步骤和 Unflag 产品里的事实核查流程及其代码做了对照，并核对了 2026 年 10 月的 Unflag 定价。各方报道在一些细节上并不一致，比如 Air Canada 和 Deloitte 两个案例里的具体金额，所以我们只引用各来源一致的数字。这份清单是专门为这篇文章写的，没有附上任何工具的输出结果。

简单总结：幻觉读起来和别的句子没什么区别，所以人名、数字、引语和“第一”都要自己核对；论断多到靠手查不过来时，就用事实核查。

常见问题

什么是 AI 幻觉？

AI 幻觉是指听起来很笃定、实际上错误或没有依据的输出，比如编造的引用、错误的日期、没人说过的话，或者根本不存在的规定。模型只是在预测看起来合理的词，所以编出来的细节读起来和真的一模一样。

AI 幻觉有什么例子？

2023 年，两名纽约律师提交的诉状引用了 ChatGPT 编造的判例，联邦法官罚了他们 5,000 美元。2025 年，一家咨询公司的政府报告里出现了编造的引用和虚构的法院引文，该公司退还了部分费用。

AI 为什么会编造内容？

语言模型写的是最可能出现的下一个词，而不是经过核实的事实。没有可靠答案时，它照样会给出一段通顺的话。引用、具体数字、引语、近期事件和资料很少的冷门话题，最容易出错。

怎么判断 ChatGPT 是不是在产生幻觉？

光看语气是判断不出来的，错误的回答和正确的回答一样笃定。要找可以核对的具体信息：人名、数字、日期、引语和来源，然后在对话之外逐一搜索。如果找不到说法一致的来源，就把这条当作未经证实。

AI 幻觉能彻底解决吗？

目前不能。给模型真实的资料、让它联网搜索，可以减少错误，但不能消除。靠得住的办法还是人工这一步：找出重要的论断，对照一手来源核实，再改正或删掉无法确认的内容。

Unflag 能发现 AI 幻觉吗？

Unflag 的事实核查属于 Unflag Plus。它会提取文本中的论断，逐条上网搜索，并给出结论、置信度和来源。它也可能漏掉或判断错误，所以重要的论断请先打开来源看一遍再用。