[神经网络]从反向传播(BP)到去噪自动编码器(DAE)

本文探讨神经网络训练机制,重点讲解BP算法和自动编码器(AE)。BP通过误差反传播训练,但存在梯度消失、局部最优等问题。AE通过无监督学习进行特征学习,可逐层训练并有监督微调用于分类。DAE是AE的改进版,引入噪声提升网络泛化能力,能学习更鲁棒的输入表示。
摘要由CSDN通过智能技术生成

本文主要总结一下神经网络几种训练机制,不仅简单介绍这几种训练机制的步骤和优缺点,而且从发展,进化的角度理清训练机制不断改进的思路和解决方案,以加深对这几种网络的理解,文中没有公式,适合DL入门者。

BP

BP(back propagation ),也叫误差反传播,是传统神经网络(相对于深度神经网络)中采用的训练机制。改方法通过随机设定网络参数的初值,计算输入在当前网络下的输出结果,然后根据输出与label(真值)之间的差值,采用迭代算法对整个网络的参数整体调整,直到收敛。 
特点: 
(1):采用梯度下降法,迭代地整体调整网络参数 
(2):随机初始化网络参数 
(3):采用有标签数据训练 
缺点: 
(1):整体调整过程中,误差(

  • 8
    点赞
  • 42
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
以下是使用TensorFlow实现去噪编码器(DAE)的示例代码: ```python import tensorflow as tf import numpy as np # 加载数据集 (x_train, _), (x_test, _) = tf.keras.datasets.mnist.load_data() x_train = x_train.astype('float32') / 255. x_test = x_test.astype('float32') / 255. x_train = np.reshape(x_train, (len(x_train), np.prod(x_train.shape[1:]))) x_test = np.reshape(x_test, (len(x_test), np.prod(x_test.shape[1:]))) # 添加噪声 noise_factor = 0.5 x_train_noisy = x_train + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=x_train.shape) x_test_noisy = x_test + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=x_test.shape) x_train_noisy = np.clip(x_train_noisy, 0., 1.) x_test_noisy = np.clip(x_test_noisy, 0., 1.) # 定义模型 input_size = 784 hidden_size = 128 output_size = 784 input_data = tf.keras.layers.Input(shape=(input_size,)) hidden_layer = tf.keras.layers.Dense(hidden_size, activation='relu')(input_data) output_layer = tf.keras.layers.Dense(output_size, activation='sigmoid')(hidden_layer) model = tf.keras.models.Model(input_data, output_layer) model.compile(optimizer='adam', loss='binary_crossentropy') # 训练模型 model.fit(x_train_noisy, x_train, epochs=50, batch_size=128, shuffle=True, validation_data=(x_test_noisy, x_test)) # 测试模型 decoded_imgs = model.predict(x_test_noisy) # 显示结果 import matplotlib.pyplot as plt n = 10 # 显示10个数字 plt.figure(figsize=(20, 4)) for i in range(n): # 原始图像 ax = plt.subplot(2, n, i + 1) plt.imshow(x_test[i].reshape(28, 28)) plt.gray() ax.get_xaxis().set_visible(False) ax.get_yaxis().set_visible(False) # 加噪后的图像 ax = plt.subplot(2, n, i + 1 + n) plt.imshow(x_test_noisy[i].reshape(28, 28)) plt.gray() ax.get_xaxis().set_visible(False) ax.get_yaxis().set_visible(False) # 解码后的图像 ax = plt.subplot(2, n, i + 1 + n * 2) plt.imshow(decoded_imgs[i].reshape(28, 28)) plt.gray() ax.get_xaxis().set_visible(False) ax.get_yaxis().set_visible(False) plt.show() ``` 在这个例子中,我们使用了MNIST数据集,并将每个图像添加了50%的高斯噪声。模型使用一个128个隐藏节点的隐层和一个784个输出节点的输出层。训练过程中使用了Adam优化器和二元交叉熵损失函数。最终,我们将显示10个数字的原始图像、添加噪声后的图像和去噪后的图像。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值