AI 在不确定或高风险时选择不回答的机制。
真没把握时,它像老中医不给你乱开方:脉没摸准就先不开药,总比瞎抓一把让人更遭罪。
常用于高风险场景,减少误导;代价是有些问题会直接不答。
Hallucination弃答通过“不乱答”,来减少幻觉带来的误导。
Model uncertainty它通常依据不确定性判断是否该回答。
Human-in-the-loop当模型选择弃答时,任务常会转给人工处理。
Alignment弃答是让模型更稳妥、更守边界的一种办法。