用于紧急停止 AI 系统运行的安全机制。
它是厨房燃气灶旁的总阀:AI一冒危险火苗,拧下去就先断掉行动。
用于高风险系统紧急叫停,减少失控行动造成的损失。
AI Guardrails常规约束失效时,紧急停止开关可作为最后防线。
Alignment对齐试图减少失控,紧急停止开关负责在失控时止损。
Agent Permissions权限控制先限制行动范围,降低需要紧急停机的机会。