机器学习18：自编码器Auto-encoder

一、Auto-encoder

通过重建输入得到一个低维空间的code

二、Deep Auto-encoder

输入从高维映射到低维再到高维。可以约束对应的encoder和decoder层的参数互为逆变换，即W1与W1^T对应，但一般没有必要约束，直接train就行。

在手写数字辨识中，Deep Auto-encoder比PCA重构的结果好，数据映射到低维空间区分度也更高。

三、应用

1、文字检索

2、图片搜索

直接对比图片像素可能得不到好的效果，如图所示可能将人脸识别成马蹄铁。而进行自编码得到code进行比较效果会更好。