内置安全对齐、但可下载使用的模型权重。
这像可带走的武功秘籍先标了禁招:能安心练,懂行的人仍可能把禁页撕掉。
便于本地部署并减少风险,也带来安全限制能否被移除的争议。
Open weights它是在开放权重的基础上,预先加入安全限制。
Alignment安全过滤通常通过对齐训练,让模型少输出危险内容。
Abliteration某些权重修改技术,可能削弱模型原有的安全限制。
Open-weight safety debate它正处在“开放”与“安全”能否兼得的争论中心。