📖
幻觉
基础概念
一句话概括
模型生成看似合理但实际错误或虚构内容的现象,是大模型的核心痛点。
详细解析
幻觉(Hallucination)指大语言模型生成的事实性错误、捏造或与输入不符的内容,且语气自信、难以察觉。它源于模型基于概率预测下一个token的本质——模型并不"知道"事实,只是生成统计上看似合理的文本。
幻觉分为"事实性幻觉"(编造不存在的人物、文献、API)和"忠实性幻觉"(与给定输入矛盾)。成因包括训练数据噪声、知识截止、长尾知识稀疏、过度泛化等。在医疗、法律、金融等高风险场景,幻觉可能造成严重后果。
缓解幻觉的常用手段包括:RAG检索增强、工具调用获取实时数据、思维链引导推理、多模型交叉验证、引用来源标注等。完全消除幻觉目前仍是开放问题,用户应将模型输出视为"需核实"而非"权威"。