06论文笔记《Reducing the Dimensionality of Data with Neural Networks》

通过神经网络实现降维

简介：

高维数据通过使用一个小中心层（神经元个数小于维数）的多层神经网络可以转换为低维数据，并可以通过此网络重建输入向量。梯度下降法可以用于在这个“自编码网络“ 调整参数，只是这种机理只在初始权值接近最优参数时有效 。

运用：

特征降维广泛应用于分类、可视化、通信和高维数据存储过程。

创新点：

运用神经网络进行降维；

概括介绍自编码器编码、解码过程：

→编码→→解码→

将原有的高清图片压缩成信息量小，但又包含了图片所有特征的图片（提取最具代表性的信息），解压时再将特征图片还原成最初的图片；

特点：

将输入的数据x与输出的数据x’做对比，求出误差值，再通过反向传播训练神经网络；

只用到了输入数据x，并未用到输入x对应的数据标签，因此自编码也是一种非监督学习；

最中间提取的特征及为最终降维后的特征；