生成模型：自编码器与生成对抗网络（GAN）入门
1. 自编码器生成建模简介
在生成模型中，自编码器是一种重要的工具。自编码器从高层次来看，由编码器、潜在空间和解码器组成，通过一个通用的目标函数进行训练，该函数用于衡量重建数据与原始数据之间的距离。
自编码器有许多应用，也可以用作生成模型。不过在实际中，它通常并非主要用于生成任务，因为其他方法，尤其是生成对抗网络（GAN），在生成任务上表现更优。我们可以使用Keras（TensorFlow的高级API）编写一个简单的变分自编码器（VAE）来生成手写数字。
1.1 为何尝试GAN
在成功生成MNIST图像后，我们不禁思考为何还要引入GAN。为了理解其中的挑战，我们可以想象一个简单的一维双峰分布。假设我们从这个真实分布中抽取了一些样本，但不知道其底层模型。如果错误地假设真实分布是简单的高斯分布，仅估计均值和方差，就会陷入困境。
例如，使用最大似然估计将其估计为单峰分布（在某种程度上，VAE就是这样做的），会得到错误的估计。由于模型指定错误，它会围绕两个分布的平均值估计一个正态分布，即点估计。最大似然法无法识别出存在两个不同的分布，为了最小化误差，它会在点估计周围创建一个“肥尾”正态分布。
在高维空间中，正确指定模型并非易事。点估计可能是错误的，甚至可能位于真实分布中没有实际采样数据的区域。以自编码器为例，如果在训练数据中加入名人面部图像，由于数据分布的模态比预期更多，VAE可能会在分布中心附近产生两个数据集的奇怪混合。
VAE使用高斯分布来构建数据表示，但由于高斯分布的大部分概率质量集中在中间的三个标准差范围内，VAE会选择安全的中间值。现实情况往往很复
