在已有模型基础上用特定数据继续训练以适配任务。
微调像给全能打工人报个岗前培训,不重读大学,只学公司黑话。
它让模型更贴合特定风格、任务或行业,常用于客服、写作和垂直助手。
Pretraining
Fine-tuning 接在 Pretraining 之后,继续调整模型能力。
Foundation-model
Foundation-model 经过 Fine-tuning 后更适配具体任务。
RLHF
RLHF 常作为 Fine-tuning 的一类偏好优化步骤。
Distillation
Distillation 可把 Fine-tuning 后的能力迁移到小模型。