本文详细介绍了Autoencoders，一种用于降维和重构输入数据的神经网络。内容涵盖Undercomplete Autoencoders，其通过较低维度的隐变量捕获关键信息，以及Regularized Autoencoders，包括Sparse和Denoising Autoencoders，它们分别通过稀疏性和去除噪声进行正则化。此外，还提及了Contractive Autoencoders，通过限制输入变化对输出的影响来稳定模型。
Autoencoders是一类neural network。这类NN最基本的用法是在输入和输出之前建立模糊复制关系。之所以不是精确复制是因为这个模型需要自动确定哪些信息是需要从input输出到output的。它的图示表示如下：
一、 Undercomplete Autoencoders
这类autoencoders的设计目的是通过隐变量h抓取对于输入数据x内最有意义的信息。因为需要抓取信息，因此一般我们隐变量h的维数要低于输入数据x的维数。如果h的维数过高，则它的capacity就会过大，因而可以容纳输入数据x大部分的信息，导致h本身抓取重要信息的功能不能得以体现。
这个模型在使用的过程中主要需要减小loss function：
这个loss function的意义是，减少原本输入值x和经过encoder&decoder之后还原出的 x^
最低0.47元/天 解锁文章
3754
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
