Automation Bias — 自动化偏误

事实

人过度相信自动系统判断的认知偏差。

人话

自动化偏误，就是导航让你直行，前面封路了，你还想听它冲。

用于医疗、驾驶、审批；越关键，越要人复核。

相关概念

• 人在回路中
• 模型不确定性
• 认知卸载
• 幻觉

Human-in-the-loop
自动化偏误会让人工复核变成橡皮章。

Model uncertainty
展示不确定性，能提醒人别全盘照收。

Cognitive offloading
把判断外包太久，更容易懒得核查。

Hallucination
遇上幻觉时，盲信会把错误带进决策。