用对抗测试发现 AI 系统风险的安全方法。
AI 红队就是请验房师带锤上门：专敲空鼓、找漏水，逼模型提前露馅。
用于发布前安全测试，挖越狱、泄密和偏见风险。
JailbreakAI 红队常用越狱提示，测试模型会不会破防。
Prompt Injection提示注入是红队最常模拟的攻击入口之一。
Alignment红队发现的失败案例，会反哺模型对齐。
AI Bug Bounty漏洞赏金把红队测试扩展到外部社区。