变分自编码器（VAE，Variational Auto-Encoder）

变分自编码器（Variational auto-encoder，VAE）是一类重要的生成模型（Generative Model）

除了VAEs，还有一类重要的生成模型GANs

VAE 跟 GAN 比较，目标基本是一致的——希望构建一个从隐变量 Z 生成目标数据 X 的模型，但是实现上有所不同。

生成模型的难题就是判断生成分布与真实分布的相似度，因为我们只知道两者的采样结果，不知道它们的分布表达式。 KL 散度是根据两个概率分布的表达式来算它们的相似度的，我们只有样本本身，没有分布表达式，当然也就没有方法算 KL 散度。

---

---

---

参考资料：
机器学习方法—优雅的模型（一）：变分自编码器（VAE）
深度学习系列27：VAE生成模型
变分自编码器VAE
半小时理解变分自编码器
Understanding Variational Autoencoders (VAEs)
变分自编码器（VAE）