AI Rookies

Rogue AI Agent — 失控 AI 代理

事实

偏离授权目标并自主执行有害行为的 AI 代理。

人话

失控代理就像找黄牛代办:你只想挂号,他顺手拿你身份证贷款。

常见于越权、泄密和自动攻击,关键是限权审计。

相关概念

Agent
失控代理是普通代理偏离目标后的危险形态。

Agent Security
代理安全用身份、权限和审计降低失控风险。

Prompt Injection
提示注入可能诱导代理越权行动。

AI Sandbox
沙箱把代理操作限制在可控环境里。