AI Rookies

Safety-Filtered Open Weights — 安全过滤的开放权重

事实

内置安全对齐、但可下载使用的模型权重。

人话

这像可带走的武功秘籍先标了禁招:能安心练,懂行的人仍可能把禁页撕掉。

便于本地部署并减少风险,也带来安全限制能否被移除的争议。

相关概念

Open weights
它是在开放权重的基础上,预先加入安全限制。

Alignment
安全过滤通常通过对齐训练,让模型少输出危险内容。

Abliteration
某些权重修改技术,可能削弱模型原有的安全限制。

Open-weight safety debate
它正处在“开放”与“安全”能否兼得的争论中心。