VI — 变分推断（Variational Inference）

事实

一种把复杂概率推断近似化的求解方法。

人话

下棋碰上长考怪，没法把所有变化算穿，就先挑一条八成靠谱的主线走，总比卡死强。

常用于概率模型训练和不确定性估计，求解更快，但答案是近似的。

相关概念

• Kullback-Leibler 散度／相对熵
• Variational Autoencoder（变分自编码器）
• 生成模型（Generative Model）

KL Divergence
变分推断常用它衡量近似分布与目标分布的差距。

VAE
VAE 的训练目标里，变分推断是核心求解思路。

Generative Model
在生成模型里，它常用于近似难算的隐藏变量后验。