![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
编码器
风信子的故事
这个作者很懒,什么都没留下…
展开
-
Autoencoder理解(1): 传统autoencoder
1)autoencoderautoencoder是一种无监督的学习算法,他利用反向传播算法,让目标值等于输入值。如图所示:Autoencoder尝试学习一个的函数。也就是说autoencoder尝试逼近一个恒等函数,使得输出接近于输入。当然为了使这个函数有意义,需要加入一些限制条件(比如说限制隐藏神经元的数目),就可以发现一些有意义的结构。Autoencoder可以学习到数...转载 2019-03-30 16:34:17 · 316 阅读 · 0 评论 -
Autoencoder理解(2): 自动编码器的作用之稀疏编码
如果给定一个神经网络,我们假设其输出与输入是相同的,然后训练调整其参数,得到每一层中的权重。自然地,我们就得到了输入I的几种不同表示(每一层代表一种表示),这些表示就是特征。自动编码器就是一种尽可能复现输入信号的神经网络。为了实现这种复现,自动编码器就必须捕捉可以代表输入数据的最重要的因素,就像PCA那样,找到可以代表原信息的主要成分。具体过程简单的说明如下:1)给定无标签数据,用非监督学...转载 2019-03-30 17:08:47 · 906 阅读 · 0 评论 -
Autoencorder理解(4):生成网络的类比
转完上面三篇来进行总结一下:其实自动编码器相当于构建一个神经网络让其自己学自己。在学习的过程中,其实是相当于无监督的。因为其source和target图其实就是自己。那么过程中,通过多层神经网络,最终就会选择编码到一个维度的张量,那么这个张量其实就是类似与白化,pca出来的一个代表这抽象维度稀疏性的重要组成。其实目前,我们所有用的卷积神经网络在GAN中既是如上结构的encoder...转载 2019-03-30 17:16:07 · 168 阅读 · 0 评论