Inside-Out Monitoring — 由内而外监测

事实

通过分析模型内部信号识别风险的安全监测方法。

人话

看模型不能只看出招；武侠切磋还要摸内息，招式端正，心法也可能走偏。

用于安全审计，辅助发现危险倾向。

相关概念

• 机制可解释性
• AI 安全论证
• 对齐

Mechanistic Interpretability
它借助机制可解释性分析模型内部表征。

AI Safety Case
它可为安全论证补充内部行为的证据。

Alignment
它尝试发现内部信号与预期目标的偏离。