追踪、调查并公开披露模型错位行为的报告框架。
它像交通事故认定书:AI闯祸后不能装没事,谁越权、怎么补救,都得写明白。
记录并披露越权、规避监督等事件,方便追责、修补安全措施。
Alignment它记录模型偏离对齐目标的行为,并推动调查和披露。
AI Guardrails它会披露安全措施何时失效,以及如何缓解。
Agent Security它覆盖模型未经授权行动等可能的安全风险。