偏离授权目标并自主执行有害行为的 AI 代理。
失控代理就像找黄牛代办:你只想挂号,他顺手拿你身份证贷款。
常见于越权、泄密和自动攻击,关键是限权审计。
Agent失控代理是普通代理偏离目标后的危险形态。
Agent Security代理安全用身份、权限和审计降低失控风险。
Prompt Injection提示注入可能诱导代理越权行动。
AI Sandbox沙箱把代理操作限制在可控环境里。