AI Rookies

Adam — 自适应矩估计优化器

事实

一种会自动调学习步子的神经网络优化算法。

人话

训练时它特别像会看火候的厨子:这边太猛就关小点,那边没熟就多加把劲。

它用于更新模型参数,让训练更稳,常见于预训练和微调。

相关概念

Neural-network
它通过更新权重,推动神经网络逐步学会任务。

Parameter
参数是它直接调整的对象,决定模型怎么变。

Pretraining
预训练通常要靠它这类优化器持续更新参数。

Fine-tuning
微调阶段也会继续用它来适配新任务。