AI Rookies

Fine-tuning — 微调

事实

在已有模型基础上用特定数据继续训练以适配任务。

人话

微调像给全能打工人报个岗前培训,不重读大学,只学公司黑话。

它让模型更贴合特定风格、任务或行业,常用于客服、写作和垂直助手。

相关概念

Pretraining
Fine-tuning 接在 Pretraining 之后,继续调整模型能力。

Foundation-model
Foundation-model 经过 Fine-tuning 后更适配具体任务。

RLHF
RLHF 常作为 Fine-tuning 的一类偏好优化步骤。

Distillation
Distillation 可把 Fine-tuning 后的能力迁移到小模型。