用原则让模型自我批评并修正回答的训练方法。
宪法式 AI 像小区公约：开口先看规矩，发现越界就自查改口。
用于大模型安全对齐，减少有害回答和人工标注。
Alignment它是把价值原则写进模型行为的对齐方法。
RLHF它用原则和 AI 反馈，减少对人工反馈的依赖。
Post-training它通常发生在预训练之后，属于模型调校阶段。