让模型推理过程可见、可检查的设计目标。
推理透明度就是下棋复盘:AI 不能只报胜负,还得摆出每步棋给你看。
用于审计、医疗、法律,让人查跳步、甩锅和瞎编。
Chain-of-thought思维链常被用来展示推理的中间步骤。
Reasoning-model推理模型越会想,越需要解释它怎么想。
Hallucination过程透明能帮助发现答案里的胡编跳步。
Alignment推理透明度让对齐审计更有抓手。