文章目录
一、自编码器原理
有监督学习的神经网络,总体上可以看做是特征降维的过程。
把原始的高维输入向量𝒙变换到低维的变量 y y y。特征降维在机器学习中有广泛的应用,最常见的降维算法有主成分分析法(Principal components analysis,简称PCA)—通过对协方差矩阵进行特征分解而得到数据的主要成分,但是PCA 本质上是一种线性变换,提取特征的能力极为有限。
自编码器本质上是利用神经网络的强大非线性表达能力去学习到低维的数据表示,但是无监督的数据没有额外的标注信息,只有数据𝒙本身,所以不妨自己重建自己,输入输出的维度一样,即建立映射𝑓𝜃: 𝒙 → 𝒙。
把网络𝑓𝜃切分为两个部分&#