AI Rookies

Model Extraction Attack — 模型提取攻击

事实

通过查询模型接口,复制其行为的窃取攻击。

人话

像有人花钱找算命先生问了上万个八字,把每句断语都记下来,最后自己开摊,说得跟他八九不离十。

攻击者可借开放接口批量采样,仿制收费模型并窃取其价值。

相关概念

API
攻击者通过 API 批量查询,收集输入与输出样本。

Model weights
它通常不直接盗取权重,而是仿制模型的外在行为。

Anti-distillation
反蒸馏技术可限制输出泄露,降低被仿制风险。