目录
Similar Image Search 相似图片查找（以图搜图）
感谢B站up主搬运的课程：
【李宏毅2020机器学习深度学习(完整版)国语】 https://www.bilibili.com/video/BV1JE411g7XF/?share_source=copy_web&vd_source=262e561fe1b31fc2fea4d09d310b466d
最初的想法
想要做一个 Encoder ，让输入成为 code 编码
但是，我们手上只有 input 的数据，没有人告诉你 code 应该长什么样，那怎么让 NN Encoder 学习呢？
做法是：后续接一个 Decoder ，让整个 Encoder-Decoder 一起 Learn
Starting from PCA
我们从 PCA 的想法看起，模型思路如下
其中 hidden layer 的 output 就是我们要的编码
Deep Auto-Encoder
像上面 PCA 的想法中间只有一层，那么自然地， hidden layer 也可以是多层
而且使用了神经网络之后，数据可以非线性地降维。
Auto-Encoder Application
Similar Image Search 相似图片查找（以图搜图）
这样做的结果会比以像素来搜索的结果更好
Pre-training DNN
对 DNN 的参数进行预训练，做法是如图中一层一层地使用 Encoder-Decoder ，训练一层就固定一层
最后一层的参数 就随机初始化即可，接着就按照 NN 的 backpropagation 进行训练（这里一般称之为 fine-tune 微调，因为前面那样训练出的参数一般都已经是很好的了）
De-noising auto-encoder
加入一些噪声，训练其抗噪声能力
Auto-encoder for CNN
Unpooling
反池化，有多种做法，可以补零，可以复制值……
Deconvolution
反卷积，其实还是卷积（在 padding 填充0之后的卷积）
4458
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
