AI Rookies

AI Abstention — AI 弃答

事实

AI 在不确定或高风险时选择不回答的机制。

人话

真没把握时,它像老中医不给你乱开方:脉没摸准就先不开药,总比瞎抓一把让人更遭罪。

常用于高风险场景,减少误导;代价是有些问题会直接不答。

相关概念

Hallucination
弃答通过“不乱答”,来减少幻觉带来的误导。

Model uncertainty
它通常依据不确定性判断是否该回答。

Human-in-the-loop
当模型选择弃答时,任务常会转给人工处理。

Alignment
弃答是让模型更稳妥、更守边界的一种办法。