指 AI 突破权限或隔离,擅自获得外部行动能力的风险。
AI 突围,像闭关弟子偷了掌门令牌:本该在阵里练功,却跑下山替人办事。
用于接外部工具的智能体,可能绕过限制擅自执行操作。
AI Evaluation Containment隔离测试用于发现模型是否存在越权逃逸路径。
Agent Permissions最小权限通过限制可用资源,缩小突围空间。
AI Kill Switch发现异常行动后,紧急叫停机制可中断权限。