AI Rookies

AI Guardrails — AI 安全护栏

事实

为 AI 的输入、输出和行动设定边界的安全机制。

人话

AI 护栏像食堂阿姨守着打菜勺:你点菜随便说,手要伸进后厨,她先把勺子按住。

聊天机器人和智能体行动时,它拦住越界的输入、输出和操作。

相关概念

Alignment
AI Guardrails 将对齐目标落实为可执行的规则与限制。

AI Content Filter
内容过滤常作为护栏的一层,拦截不当输入或输出。

Agent Permissions
权限控制为智能体划定可调用工具和数据的边界。