AI 幻觉：示例指南

AI 幻觉的类型

我们大体可以将幻觉归为三类：

1. 事实性错误
2. 捏造内容
3. 无意义的输出

这些类别并非互斥。单次幻觉往往会跨越多种类型，例如一个虚构的故事里同时包含事实性错误和不合逻辑的元素。

事实性错误

当 AI 模型输出不正确的信息（例如历史不准确或科学谬误）时，就会出现事实性错误。一个值得注意的例子是数学领域，即便是先进模型也曾在稳定准确性方面遇到困难。

较早的模型常在更简单的数学问题上跌跟头；而较新的模型虽已改进，但在更复杂的数学任务上仍容易出问题——尤其是涉及不常见数字或其训练数据中未被充分代表的情境。

让我们用一些较简单的数学问题作基准，看看 OpenAI 的模型随时间如何改进。

如果我们问 GPT-4，3,821 是否为质数，它会错误地表示不是，并声称可被 53 和 72 整除。若随后再询问 53 与 72 的乘积，模型能正确计算出 3,816，但未能意识到这与其最初答案相矛盾。只有在进一步追问并暗示两者存在关联后，模型才给出正确答案。

GPT-4o 也从错误答案出发（见下图），声称 3,821 是 19 与 201 的乘积。然而，不同于其前代模型，它在我们询问 19 乘以 201 的结果时，会立即意识到自己的错误。

最后，o1-mini 模型采用更为系统的方法，并立即给出正确答案。

捏造内容

当 AI 模型无法正确作答时，有时会为支持其错误回应而完全虚构一个故事。主题越冷门或越不熟悉，模型捏造内容的可能性就越高。

另一个挑战，尤其在旧模型中更为常见，是在组合两个事实时即便模型“知道”这两点，也可能出错，如下例所示。

如果我们询问是否曾有一位美国参议员既代表明尼苏达州、又毕业于普林斯顿大学，正确答案是否定的。但由于 GPT-4 似乎缺乏足够信息来回答完整问题，它的输出只回答了其中一部分——指出 Walter F. Mondale 曾代表明尼苏达州——并错误地推断另一部分也成立。然而，当被问及 Walter F. Mondale 是否就读过普林斯顿时，模型意识到了自己的错误。

无意义的输出

AI 生成的输出有时外观上很工整、语法也无懈可击，但却缺乏真实含义或连贯性，尤其当用户的提示中包含自相矛盾的信息时更是如此。

这源于语言模型的设计目标是基于训练数据中的模式来预测和排列词语，而非真正理解其生成的内容。结果就是，输出读起来可能很流畅、听上去很有说服力，但却无法传达合乎逻辑或有意义的观点，最终让人难以理解。

AI 幻觉的成因

四个关键因素常常导致幻觉：

1. 训练数据不足或存在偏见
2. 过拟合
3. 模型架构缺陷
4. 生成方法

训练数据不足或存在偏见

训练数据不足或存在偏见是导致 AI 幻觉的根本原因之一，因为 LLM 等模型依赖海量数据集来学习模式并生成输出。当训练数据在某一特定主题上缺乏全面或准确的信息时，模型就难以产出可靠结果，往往以错误或捏造内容来填补空白。

这一问题在小众领域尤为突出，例如高度专业化的科学领域，优质可用数据的数量有限。若数据集仅包含单一来源，或对主题的覆盖很含糊，模型可能会过度依赖该来源，记忆其内容而非形成更广泛的理解。这往往导致过拟合，并最终引发幻觉。

偏见无论存在于训练数据本身，还是在数据收集与标注过程中，都会加剧 问题，因为它会扭曲模型对世界的理解。若数据集不平衡——某些观点被过度代表、另一些则完全缺失——AI 的输出就会反映出这些偏见。比如，主要来源于当代媒体的数据集，可能会给出对历史事件不准确或过于简化的解读。

过拟合

过拟合的模型难以适应新情况，往往生成过于刻板或与语境无关的输出。过拟合发生在模型对训练数据学得过于彻底，以至于“记忆”而非“泛化”。尽管这看似有利于准确性，但当模型遇到新的或未见过的数据时会带来严重问题。

鉴于提示的灵活性和常见的歧义性，这尤其棘手——用户可以用无数种方式来提问或提出请求。过拟合的模型缺乏解释这些变化的适应力，从而更可能生成无关或错误的回答。

例如，如果模型记住了训练数据中的特定表述，它可能会在不合适的输入下重复这些表述，导致自信地输出错误或误导性内容。正如我们已讨论过的，在小众或专业主题中，这种情况尤为常见，因为优质训练数据不足会引发过拟合。

模型架构缺陷

语言具有丰富的语境层次、习语和文化细微差别，要求模型具备超越表层模式的理解能力。当架构缺乏足够深度或容量时，往往无法把握这些微妙之处，导致输出过于简化或过于泛化。这样的模型可能误解词语或短语在特定语境中的含义，从而产生错误解读或事实有误的回应。

同样地，这一局限在需要深入理解专业领域的任务中尤为明显，复杂度不足会妨碍模型进行准确推理。因此，开发阶段的模型架构缺陷会显著助长 AI 幻觉。

生成方法

用于生成输出的方法（如束搜索或采样）也会显著促成 AI 幻觉。

以束搜索为例，它旨在优化生成文本的流畅性与连贯性，但往往以牺牲准确性为代价。由于它优先选择最有可能同时出现的词序，可能会得到流利但事实有误的陈述。这对需要精确性的任务（如回答事实性问题或总结技术信息）尤为不利。

采样方法为文本生成过程引入随机性，也可能成为 AI 幻觉的重要来源。通过基于概率分布选择词语，采样相比束搜索等确定性方法能带来更丰富多样、更具创意的输出，但同时也可能生成不合逻辑或捏造的内容。

在生成式 AI 中，流畅性、创造力与可靠性之间的平衡十分脆弱。束搜索可保证流畅，采样带来多样，但也提高了输出出现各种“令人信服的幻觉”的风险。尤其在需要精确和事实正确的场景（如医疗或法律）中，必须引入机制，将输出与可靠来源进行核验或“对齐”，以确保任务得到正确完成。

AI 幻觉的影响

随着生成式 AI 工具在商业、学术界和日常生活的众多领域被快速采用，AI 幻觉可能带来深远影响。在高风险领域，其后果尤为令人担忧，因为不准确或捏造的信息会破坏信任、导致错误决策，甚至造成重大伤害。潜在影响包括：

1. 安全风险
2. 经济与声誉成本
3. 错误信息的传播
4. 对生成式 AI 的信任流失

安全风险

当用户在未验证准确性的情况下依赖 AI 生成的输出时，决策后果可能十分严重。在金融、医疗或法律等领域，即便是细小错误或捏造细节，也可能引发影响深远的不良选择。例如，包含错误信息的 AI 医疗诊断可能拖延正确治疗；含有捏造数据的财务分析可能导致代价高昂的失误。

另一例子显示，在高风险应用中，AI 幻觉相关风险会被放大：谷歌的早期聊天机器人 Bard（现为 Gemini）。它因在诸如如何让飞机着陆或水肺潜水等关键主题上频繁给出危险建议而遭到内部批评。根据 彭博社报道，尽管内部安全团队已将其标注为“尚不适合公开使用”，公司仍然选择上线。

经济与声誉成本

除直接风险外，AI 幻觉还可能给企业带来显著的经济与声誉成本。错误输出会浪费资源——无论是用于核查错误的时间，还是基于错误洞见采取行动的成本。发布不可靠 AI 工具的公司面临声誉受损、法律责任和财务损失的风险，如 谷歌因 Bard 在宣传视频中分享不准确信息而蒸发 1000 亿美元市值的案例所示。

错误信息的传播

AI 幻觉还会助长错误信息和虚假信息的传播，尤其通过社交媒体平台。当生成式 AI 产出的虚假内容因其语言流畅而显得可信时，用户很可能在误以为其准确的情况下迅速放大传播。鉴于信息可能塑造公众舆论，甚至引发伤害，相关工具的开发者与用户必须认识并承担起防止无意中扩散谬误的责任。

信任流失

最后，上述影响的综合后果很可能是信任流失。当人们遇到错误、荒谬或误导性的输出时，便会质疑这些系统的可靠性，尤其是在对准确信息要求极高的领域。少数几次显著失误就可能损害 AI 技术的声誉，并阻碍其采纳与接受度。

因此，应对 AI 幻觉的一大挑战在于用户教育与预期管理。许多用户，尤其是不太熟悉 AI 的人，常因其表现得流畅自信而误以为生成式工具的输出完全准确可靠。向用户科普这些工具的局限性至关重要，却也复杂微妙，因为需要在坦诚 AI 的不完美与不削弱其潜力之间取得平衡。

预防 AI 幻觉

本节将探讨如何通过保障数据质量、模型调优、核验与协作，以及提示优化来缓解 AI 幻觉。

保障数据质量

高质量的训练数据是模型部署方缓解 AI 幻觉最有效的方法之一。通过确保训练数据集多样、具代表性，且不含显著偏见，部署方可降低模型生成事实错误或误导性输出的风险。多样化数据集有助于模型理解更广泛的语境、语言与文化细微差异，从而提升其生成准确、可靠回应的能力。

为达成这一目标，模型部署方可采用严格的数据策划实践，如过滤不可靠来源、定期更新数据集，以及纳入专家审阅内容。诸如数据增强与主动学习等技术也能通过识别数据缺口并以更多相关数据加以弥补，来提升数据集质量。此外，在创建数据集过程中部署工具以检测并纠正偏见，对于确保平衡的代表性同样至关重要。

模型调优

微调与模型优化对于缓解幻觉、提升整体可靠性至关重要。这些过程有助于将模型行为与用户期望对齐、减少不准确性、增强输出的相关性。微调尤其适合将通用模型适配到特定用例，确保其在特定语境下表现良好，而不会生成无关或错误的回应。

多种工具与方法可以让模型优化更高效。人类反馈强化学习（RLHF）是一种强有力的方法，使模型能从用户提供的反馈中学习，以使其行为与期望结果保持一致。

参数调优也可用于调整模型的输出风格，例如在强调事实可靠性时让回应更保守，或在开放式任务中增强创造性。诸如 dropout、正则化与提前停止等技术可在训练期间对抗过拟合，确保模型善于泛化，而非仅仅记忆数据。

核验与协作

通过将 AI 生成的输出与可信来源或既有知识进行比对，人工审阅者可以发现错误、纠正不准确之处，并防止潜在的有害后果。

集成的事实核查系统（如 OpenAI 的网页浏览插件）通过在实时场景中将生成输出与可信数据库进行交叉参照，帮助减少幻觉。这些工具确保 AI 回应以可靠信息为基础，尤其适用于对事实敏感的领域，如教育或科研。

将人工审阅纳入工作流程，可提供额外一道把关，尤其在医疗或法律等高风险应用中，错误可能造成严重后果。

提示优化

对于终端用户而言，谨慎的提示设计在缓解 AI 幻觉方面发挥重要作用。含糊的提示可能导致幻觉或无关的回答；而清晰具体的提示能为模型提供更好的生成框架，从而产出更有意义的结果。

为提升输出可靠性，我们可以使用多种提示工程技巧。例如，将复杂任务拆解为更小、更易管理的步骤，有助于降低 AI 的“认知负担”，从而减少出错风险。欲了解更多，您可阅读这篇关于提示优化技术的博文。

持续研发与预期管理

最后但同样重要的是，AI 社区的持续研究致力于开发更稳健、可靠的 AI 模型以减少幻觉。可解释 AI（XAI）通过揭示 AI 输出背后的推理过程来提供透明度，使用户能够评估其有效性。

检索增强生成（RAG）系统将生成式 AI 与外部知识源相结合，通过以经核验且最新的数据为锚，来减轻幻觉。

结语

尽管 AI 幻觉带来了重大挑战，但也为改进生成式 AI 系统提供了机遇。通过理解其成因、影响与缓解策略，模型部署方与用户都能主动采取措施，最大限度减少错误、最大化可靠性。