EM — Expectation-Maximization（期望最大化算法）

事实

一种在含隐变量时交替估计参数的优化方法。

人话

像老中医号脉：先猜你偏哪种证候，再按这个猜法改方子；一轮轮试，病因画像就越来越准。

常在没真标签时估参数，比如聚类或补全缺失信息。

相关概念

• 无监督学习
• Kullback-Leibler 散度／相对熵
• 变分推断（Variational Inference）

Unsupervised Learning
它常用于无监督场景下估计隐藏结构和参数。

KL Divergence
它的迭代过程常可写成逐步缩小 KL 差异。

Variational Inference
变分推断可看作把它推广到更一般的近似推断。