自编码器学习笔记

一 自编码器概念（AE）

自编码器模型主要由编码器（Encoder）和解码器（Decoder）组成，其目的是将输入X转换成中间变量y，然后再将y转换成，然后对比输入X和输出 ，使得它们两个无限接近。

 

 

 

特点： 

1.输入层和输出层有相同数量的神经元。

2.中间隐藏层的神经元个数非常少。

二 变分自编码器（VAE）

Variational Auto-Encoder

与AE的区别：VAE不再把输入映射到固定的变量上，而是映射到一个分布上。

损失函数：（这里损失函数是越大越好）

 这里的KL散度描述了学习的分布和先验的概率分布之间的相似性。

 KL 散度是一种衡量两个概率分布的匹配程度的指标，两个分布差异越大，KL散度越大。

 

学习链接：

【全】一文带你了解自编码器（AutoEncoder） - 知乎 (zhihu.com)

【变分自编码器VAE】可视化讲明白_哔哩哔哩_bilibili

[论文简析]VAE: Auto-encoding Variational Bayes[1312.6114]_哔哩哔哩_bilibili