作为最古老的方法之一, auto-encoder也是最简单的一种网络.
对mnist试了下, 结果还可以(没有做任何预处理)
auto-encoder相关的介绍和论文都很多, 我也没有心思一点一点的抄过来
简单来说就是不仅仅输出 feature \mathcal{F}, 在训练出feature之后还有一个decode的操作
用训练出来的矩阵变换回元数据, 这样把一个有监督问题转换成无监督问题.
程序写起来不难, 但很麻烦,一旦有一个地方出错, 要从头检查, 因为根本不知道那里开始错的
参数变化也有巨大影响.