本文介绍了如何使用TensorFlow实现去噪自编码器，重点讲解了Xaiver初始化器、去噪编码的类定义、数据标准化处理以及批量数据获取。详细阐述了相关函数的用法，如`tf.random_uniform`和`tf.random_normal`，并提到了`sklearn.preprocessing.Standardscaler`在数据预处理中的应用。
tensorflow实现去噪自编码器
自编码器（autoencoder）：是一种无监督学习算法，主要用于数据降维，或者提取特征。在深度学习中，autoencoder可在训练开始前，提供权重矩阵的初始值。Xaiver Glorot与Yoshua Bengio在一篇论文中指出，如果深度学习模型的权重初始化得太小，那信号将在每层间传递时逐渐缩小而难以产生作用，如果权重初始得太大，那信号将在每层间传递时逐渐放大并导致发散和失效。而Xaiver初始化器做的事情就是让权重矩阵被初始化得不大不小，正好合适。从数学的角度讲，Xaiver就是让权重满足0得均值，同时方差为 2 n i n + n o u t \frac{2}{n_{in}+n_{out}} nin+nout2，分布可以用均匀分布或者高斯分布。
最低0.47元/天 解锁文章
扫一扫
808
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
