AI Rookies

Role Confusion — 角色混淆

事实

模型混淆指令来源和权限的安全问题。

人话

角色混淆像小区门卫认错人:把快递当业主,谁喊得急就给谁开门。

多见于智能体和工具调用,会放大越权风险。

相关概念

Prompt Injection
提示注入常利用角色混淆,让低权限内容变命令。

System Prompt
系统提示提供最高优先级,角色混淆会冲撞它。

Chat Template
聊天模板把不同消息角色写清,减少误判来源。

Agent Security
角色混淆会让智能体误信越权指令。