Model uncertainty — 模型不确定性

事实

模型对自己输出把握程度的表现。

人话

看它回话那股劲儿就知道：有时像学霸秒答，有时像硬着头皮编到后半句开始发虚。

它决定答案有多能信，常影响问答、医疗和自动化决策。

相关概念

• 幻觉
• 温度（采样）
• 对齐
• 检索增强生成

Hallucination
模型不确定性越高，往往越需要警惕它在一本正经地胡说。

Temperature
Temperature 会影响输出的发散程度，也会改变模型看起来有多笃定。

Alignment
Alignment 不只关心答什么，也关心模型该在没把握时适当收住。

RAG
RAG 给模型补充外部资料后，很多问题上的不确定性会下降。