Hallucination — 幻觉

事实

AI 生成看似合理但实际错误或无法验证的信息。

人话

幻觉像一个死不认输的同事，不知道答案也能编得像开过会。

写作时它能补空，查资料时它能挖坑；越关键的信息，越不能只听它一张嘴。

相关概念

• 大语言模型
• 提示词
• 检索增强生成
• 对齐

LLM
LLM 以概率方式生成内容，因此可能出现 Hallucination。

Prompt
Prompt 越明确，Hallucination 可发挥的模糊空间越小。

RAG
RAG 引入外部资料，为模型回答提供可核查依据。

Alignment
Alignment 通过约束模型行为，减少不可靠输出。