Deliberate AI Error — 刻意制造的 AI 错误

事实

刻意让 AI 产生小错，以防用户过度依赖的设计策略。

人话

训练时让 AI 故意漏一手，像棋友露个破绽：逼你自己看棋，别只会跟着走。

用于教学中提醒人复核；医疗、财务等高风险场景不宜这样做。

相关概念

• 自动化偏误
• 人在回路中
• AI 弃答

Automation Bias
刻意设置小错可打断用户对 AI 答案的盲目信任。

Human-in-the-loop
它通过制造需核查之处，促使人保留审核责任。

AI Abstention
AI 弃答是坦承不确定，刻意出错则是另一种干预策略。