关于公开模型权重利弊的安全治理争论。
开放权重像把小区门禁卡晒到朋友圈:邻居通行方便,陌生人也能复制进门。
用于模型发布和监管,权衡开放收益与滥用风险。
Open weights开放权重是这场争论的直接对象。
AI-regulation监管要决定哪些模型能开放到什么程度。
Frontier Model Access Control权重公开后,访问门禁很难继续生效。
AI biosecurity部分担忧集中在生物安全等高风险滥用。