《生成式深度学习》Generative Deep Learning 第三章 Variational Autoencoders 变分自动编码器

1. 自编码器(Autoencoders，AE)：由两部分组成，编码器和解码器。

     编码器：将高维的输入数据压缩为更低维的表征向量(representation vector)；

     解码器：将给定的表征向量解压为原始维度。

     自编码器可以用来清除嘈杂的图片，since the encoder learns that it is not useful to capture the position of the random noise inside the latent space.

2. 转置卷积

3. 自编码不保证空间是连续的。比如即使在点(2，-2)可能能解码出好的表示‘4’的图像，但没有任何机制可以确保在点(2.1，-2.1)也能产生好的表示‘4’的图像。损失函数使用RMSE。(自我感觉自编码有点像降维+聚类？？)

4. 变分自编码在自编码的基础上做了两点改变：编码器和损失函数。

                            

    编码器的改变：不像自编码器里的编码器是直接对应潜在空间中的一个点，变分自编码器里的编码器会将每个输入图像编码到两个向量，mu和log_var，这两个向量共同定义多元正态在潜在空间中的分布。mu：分布的平均点；log_var：每个维度的方差的对数。

     为了将图像编