幻觉

换成大白话

幻觉（Hallucination）指大语言模型生成的事实性错误、捏造或与输入不符的内容，且语气自信、难以察觉。它源于模型基于概率预测下一个token的本质——模型并不"知道"事实，只是生成统计上看似合理的文本。 幻觉分为"事实性幻觉"（编造不存在的人物、文献、API）和"忠实性幻觉"（与给定输入矛盾）。成因包括训练数据噪声、知识截止、长尾知识稀疏、过度泛化等。在医疗、法律、金融等高风险场景，幻觉可能造成严重后果。 缓解幻觉的常用手段包括：RAG检索增强、工具调用获取实时数据、思维链引导推理、多模型交叉验证、引用来源标注等。完全消除幻觉目前仍是开放问题，用户应将模型输出视为"需核实"而非"权威"。

它通常在什么场景出现

这个术语常见于模型选择、训练与微调、推理与部署、评测或产品功能说明等场景；当你遇到“幻觉”时，多半是在讨论模型行为、处理方式或指标口径。

具体出现在哪类场景，可以用下方“跨库查找”搜索包含该概念的模型、训练、评测或产品资料。

容易混淆的地方

不要把“幻觉”理解成模型本身的能力或在某个榜单上的具体名次；它更多是描述一种机制、一种处理方式或一个指标口径，而不是模型实力的绝对结论。