AI Rookies

AI Kill Switch — AI 紧急停止开关

事实

用于紧急停止 AI 系统运行的安全机制。

人话

它是厨房燃气灶旁的总阀:AI一冒危险火苗,拧下去就先断掉行动。

用于高风险系统紧急叫停,减少失控行动造成的损失。

相关概念

AI Guardrails
常规约束失效时,紧急停止开关可作为最后防线。

Alignment
对齐试图减少失控,紧急停止开关负责在失控时止损。

Agent Permissions
权限控制先限制行动范围,降低需要紧急停机的机会。