模型混淆指令来源和权限的安全问题。
角色混淆像小区门卫认错人:把快递当业主,谁喊得急就给谁开门。
多见于智能体和工具调用,会放大越权风险。
Prompt Injection提示注入常利用角色混淆,让低权限内容变命令。
System Prompt系统提示提供最高优先级,角色混淆会冲撞它。
Chat Template聊天模板把不同消息角色写清,减少误判来源。
Agent Security角色混淆会让智能体误信越权指令。