AI Rookies

AI Misalignment Reporting Framework — AI 错位行为报告框架

事实

追踪、调查并公开披露模型错位行为的报告框架。

人话

它像交通事故认定书:AI闯祸后不能装没事,谁越权、怎么补救,都得写明白。

记录并披露越权、规避监督等事件,方便追责、修补安全措施。

相关概念

Alignment
它记录模型偏离对齐目标的行为,并推动调查和披露。

AI Guardrails
它会披露安全措施何时失效,以及如何缓解。

Agent Security
它覆盖模型未经授权行动等可能的安全风险。