一种会自动调学习步子的神经网络优化算法。
训练时它特别像会看火候的厨子:这边太猛就关小点,那边没熟就多加把劲。
它用于更新模型参数,让训练更稳,常见于预训练和微调。
Neural-network它通过更新权重,推动神经网络逐步学会任务。
Parameter参数是它直接调整的对象,决定模型怎么变。
Pretraining预训练通常要靠它这类优化器持续更新参数。
Fine-tuning微调阶段也会继续用它来适配新任务。