【科学计算与数学建模】自编码器

于 2024-03-22 00:00:00 发布
阅读量963 收藏 13
点赞数 11
分类专栏： 科学计算与数学建模 文章标签： 数学建模
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hisser/article/details/136854423
版权

一、自编码器

任务描述

本关任务：搭建一个简单的自编码器模型。

相关知识

为了完成本关任务，你需要掌握：1.基本的自编码概念，2.搭建简单的自编码器模型。

自编码器

自编码器简介

自编码器是一类尝试使用反向传播算法重新创建输入数据作为输出的神经网络。自编码器包含两部分：编码器和解码器。编码器读取输入并把它压缩成紧凑表示，解码器则读取紧凑表示并用其重建输入。如下图所示：

,

搭建简单的自编码器模型

可以通过keras很快的创建如下的编码器和解码器并编译，代码如下：

 

  1. from keras.layers import Input, Dense
  2. from keras.models import Model
  4. # 编码器维度
  5. encoding_dim = 32 
  8. input_img = Input(shape=(784,))
  9. # "encoded" 是把输入编码表示
  10. encoded = Dense(encoding_dim, activation='relu')(input_img)
  11. # "decoded" 是输入的有损重构
  12. decoded = Dense(784, activation='sigmoid')(encoded)
  14. # 搭建自编码模型
  15. autoencoder = Model(input_img, decoded)
  16. autoencoder.compile(optimizer='adadelta', loss='binary_crossentropy')
  18. # 打印模型结构
  19. autoencoder.summary()
 

运行结果：
 

 

  1. _________________________________________________________________
  2. Layer (type) Output Shape Param # 
  3. =================================================================
  4. input_1 (InputLayer) (None, 784) 0 
  5. _________________________________________________________________
  6. dense_1 (Dense) (None, 32) 25120 
  7. _________________________________________________________________
  8. dense_2 (Dense) (None, 784) 25872 
  9. =================================================================
  10. Total params: 50,992
  11. Trainable params: 50,992
  12. Non-trainable params: 0
  13. _________________________________________________________________ 
 

导入数据集
 

可通过以下代码导入mnist数据集，代码如下：
 

 

  1. from keras.datasets import mnist
  2. import numpy as np
  4. # 加载数据集
  5. (x_train, _), (x_test, _) = mnist.load_data()
  6. # 对图片数据进行归一化
  7. x_train = x_train.astype('float32') / 255.
  8. x_test = x_test.astype('float32') / 255.
  9. # 转换数据形状
  10. x_train=x_train.reshape((len(x_train),np.prod(x_train.shape[1:]))
  11. x_test =x_test.reshape((len(x_test), np.prod(x_test.shape[1:])))
  12. print(x_train.shape)
  13. print(x_test.shape)
 

运行结果：
 

 

  1. (60000,784)
  2. (10000,784)
 

拟合模型
 

通过以上数据拟合模型autoencoder，提示：epochs =50,batch_size=256,shuffle=True 。 代码如下：
 

 

  1. autoencoder.fit(x_train, x_train,
  2. epochs=50,
  3. batch_size=256,
  4. shuffle=True,
  5. validation_data=(x_test, x_test))
 

代码执行结果：
 

 

  1. Train on 60000 samples, validate on 10000 samples
  2. Epoch 1/50
  3. 60000/60000 [==============================] - 5s 83us/step - loss: 0.3567 - val_loss: 0.2714
  4. Epoch 2/50
  5. 60000/60000 [==============================] - 4s 61us/step - loss: 0.2645 - val_loss: 0.2545
  6. Epoch 3/50
  7. 60000/60000 [==============================] - 4s 61us/step - loss: 0.2450 - val_loss: 0.2333
  8. Epoch 4/50
  9. 60000/60000 [==============================] - 4s 62us/step - loss: 0.2248 - val_loss: 0.2139
  10. Epoch 5/50
  11. 60000/60000 [==============================] - 4s 61us/step - loss: 0.2078 - val_loss: 0.1997
  12. …
  13. 60000/60000 [==============================] - 4s 73us/step - loss: 0.1055 - val_loss: 0.1037
  14. Epoch 50/50
  15. 60000/60000 [==============================] - 4s 75us/step - loss: 0.1052 - val_loss: 0.1033
 

查看重构的输出与原来的输出对比
 

我们可以通过以下方式来查看，代码如下：
 

 

  1. # 从测试集选取一些数据来编码和解码
  2. encoded_imgs = encoder.predict(x_test)
  3. decoded_imgs = decoder.predict(encoded_imgs) 
  4. import matplotlib.pyplot as plt
  5. n = 10 # 打印的图片数量
  6. plt.figure(figsize=(20, 4))
  7. for i in range(n):
  8. # 显示原来图像
  9. ax = plt.subplot(2, n, i + 1)
  10. plt.imshow(x_test[i].reshape(28, 28))
  11. plt.gray()
  12. ax.get_xaxis().set_visible(False)
  13. ax.get_yaxis().set_visible(False)
  15. # 显示重构后的图像
  16. ax = plt.subplot(2, n, i + 1 + n)
  17. plt.imshow(decoded_imgs[i].reshape(28, 28))
  18. plt.gray()
  19. ax.get_xaxis().set_visible(False)
  20. ax.get_yaxis().set_visible(False)
  21. plt.show()
 

代码执行结果：
 

,
 

编程要求
 

根据左侧内容提示，补充右侧代码部分内容。
 

  • 补充训练自编码器模型代码。
  • 补充编码器模型参数。
 

因评测时间限时，实战代码只训练五轮的结果进行评测对比。
 

测试说明
 

平台会对你编写的代码进行测试：
 

测试输入：略； 预期输出： 通关成功!
 

 

开始你的任务吧，祝你成功！
 

 

代码部分
 

from keras.layers import Input, Dense, Conv2D, MaxPooling2D, UpSampling2D
from keras.models import Model
from Keras.datasets import mnist
import numpy as np
import matplotlib.pyplot as plt

# 设置随机种子
np.random.seed(1447)


def draw(X_test, decoded_imgs):
    # 打印图片的数量
    n = 10
    # 画布大小
    plt.figure(figsize=(20, 4))
    for i in range(n):
        ax = plt.subplot(2, n, i+1)
        plt.imshow(X_test[i].reshape(28, 28))
        plt.gray()
        ax.get_xaxis().set_visible(False)
        ax.get_yaxis().set_visible(False)
        # 显示重构之后的图像
        ax = plt.subplot(2, n, i+1+n)
        plt.imshow(decoded_imgs[i].reshape(28, 28))
        plt.gray()
        ax.get_xaxis().set_visible(False)
        ax.get_yaxis().set_visible(False)
    
    # 保存图片文件
    plt.savefig("src/step1/stu_img/result.png")
    plt.show()


def autoencoder1():
    # 编码器维度
    encoding_dim = 32
    input_img = Input(shape=(784,))
    # "encoded" 是把输入编码表示
    encoded = Dense(encoding_dim, activation='relu')(input_img)
    # "decoded" 是输入的有损重构
    decoded = Dense(784, activation='sigmoid')(encoded)

    # 自编码模型
    autoencoder = Model(input_img, decoded)
    autoencoder.compile(optimizer='adadelta', loss='binary_crossentropy')

    # 加载数据
    (X_train, _), (X_test, _) = mnist.load_data()
    # 数据归一化
    X_train = X_train.astype('float32') / 255
    X_test = X_test.astype('float32') / 255
    # 形状转换
    X_train = X_train.reshape((len(X_train), np.prod(X_train.shape[1:])))
    X_test = X_test.reshape((len(X_test), np.prod(X_test.shape[1:])))
    print(X_train.shape)
    print(X_test.shape)

    # 训练模型参数，补充下面代码
    # 训练5轮，batch_size设置为5，shuffle为True。
    # validation_data放入测试集数据，verbose设置为2则不输出进度条。
    # ********** Begin *********#


    # autoencoder.fit( )

    autoencoder.fit(X_train, X_train,
                epochs=5,
                batch_size=256,
                shuffle=True,
                validation_data=(X_test, X_test),
                verbose=2
                )
    # ********** End **********#

    # 获取编码器和解码器

    # ********** Begin *********#
    # "encoded" 是把输入编码表示，补充下面代码
    # encoder = Model(inputs=, outputs=)
    # encoded_input = Input(shape=(encoding_dim,))
    encoder = Model(inputs=input_img, outputs=encoded)
    encoded_input = Input(shape=(encoding_dim,))
    # ********** End **********#
    # "decoded" 是输入的有损重构
    decoder_layer = autoencoder.layers[-1]
    decoder = Model(inputs=encoded_input, outputs=decoder_layer(encoded_input))

    # 预测
    encoded_imgs = encoder.predict(X_test)
    decoded_imgs = decoder.predict(encoded_imgs)
    # 显示
    draw(X_test, decoded_imgs)

 

二、卷积自编码器
 
 

 

任务描述
 

本关任务：编写一个卷积自编码器。
 

相关知识
 

为了完成本关任务，你需要掌握：1.卷积自编码器的基础知识，2.使用keras实现卷积自编码器。
 

卷积自编码器
 

搭建卷积自编码器
 

当输入是图像时，使用卷积神经网络基本上总是有意义的。在现实中，用于处理图像的自动编码器几乎都是卷积自动编码器——又简单又快。 卷积自编码器的编码器部分由卷积层和MaxPooling层构成，MaxPooling负责空域下采样。而解码器由卷积层和上采样层构成。
 

我们可以通过以下方式来创建如下的卷积编码器和解码器并编译,代码如下：
 

 

  1. from keras.layers import Input, Dense, Conv2D, MaxPooling2D, UpSampling2D
  2. from keras.models import Model
  3. from keras import backend as K
  4. input_img = Input(shape=(28, 28, 1)) #输入图像形状
  5. #编码器
  6. x=Conv2D(16, (3, 3), activation='relu', padding='same')(input_img)
  7. #卷积层
  8. x = MaxPooling2D((2, 2), padding='same')(x)#空域下采样
  9. x = Conv2D(8, (3, 3), activation='relu', padding='same')(x)
  10. x = MaxPooling2D((2, 2), padding='same')(x)
  11. x = Conv2D(8, (3, 3), activation='relu', padding='same')(x)
  12. encoded = MaxPooling2D((2, 2), padding='same')(x)
  13. #解码
  14. x = Conv2D(8, (3, 3), activation='relu', padding='same')(encoded)
  15. x = UpSampling2D((2, 2))(x)#上采样层
  16. x = Conv2D(8, (3, 3), activation='relu', padding='same')(x)
  17. x = UpSampling2D((2, 2))(x)
  18. x = Conv2D(16, (3, 3), activation='relu')(x)
  19. x = UpSampling2D((2, 2))(x)
  20. decoded = Conv2D(1, (3, 3), activation='sigmoid', padding='same')(x)
  21. # 定义模型
  22. autoencoder = Model(input_img, decoded)
  23. # 编译模型
  24. autoencoder.compile(optimizer='adadelta', loss='binary_crossentropy')#编译
  26. # 打印模型结构
  27. autoencoder.summary()
 

运行结果：
 

 

  1. _________________________________________________________________
  2. Layer (type) Output Shape Param # 
  3. =================================================================
  4. input_1 (InputLayer) (None, 28, 28, 1) 0 
  5. _________________________________________________________________
  6. conv2d_1 (Conv2D) (None, 28, 28, 16) 160 
  7. _________________________________________________________________
  8. max_pooling2d_1 (MaxPooling2 (None, 14, 14, 16) 0 
  9. _________________________________________________________________
  10. conv2d_2 (Conv2D) (None, 14, 14, 8) 1160 
  11. _________________________________________________________________
  12. max_pooling2d_2 (MaxPooling2 (None, 7, 7, 8) 0 
  13. _________________________________________________________________
  14. conv2d_3 (Conv2D) (None, 7, 7, 8) 584 
  15. _________________________________________________________________
  16. max_pooling2d_3 (MaxPooling2 (None, 4, 4, 8) 0 
  17. _________________________________________________________________
  18. conv2d_4 (Conv2D) (None, 4, 4, 8) 584 
  19. _________________________________________________________________
  20. up_sampling2d_1 (UpSampling2 (None, 8, 8, 8) 0 
  21. _________________________________________________________________
  22. conv2d_5 (Conv2D) (None, 8, 8, 8) 584 
  23. _________________________________________________________________
  24. up_sampling2d_2 (UpSampling2 (None, 16, 16, 8) 0 
  25. _________________________________________________________________
  26. conv2d_6 (Conv2D) (None, 14, 14, 16) 1168 
  27. _________________________________________________________________
  28. up_sampling2d_3 (UpSampling2 (None, 28, 28, 16) 0 
  29. _________________________________________________________________
  30. conv2d_7 (Conv2D) (None, 28, 28, 1) 145 
  31. =================================================================
  32. Total params: 4,385
  33. Trainable params: 4,385
  34. Non-trainable params: 0
  35. _________________________________________________________________
  37. Process finished with exit code 0
 

加载数据并拟合模型
 

请参考上个关卡加载数据并完成模型拟合。 提示1：
 

 
 
x_train 用 reshape重构时参数设置为 x_train = np.reshape(x_train, (len(x_train), 28, 28, 1)) ，x_test 同上类似。
 

 

提示2：
 

 
 
autoencoder 中的 batch_size 设置为 128，其他不变。
 

 

代码如下：
 

 

  1. from keras.datasets import mnist
  2. import numpy as np
  4. # 加载数据
  5. (x_train, _), (x_test, _) = mnist.load_data()
  7. # 归一化
  8. x_train = x_train.astype('float32') / 255.
  9. x_test = x_test.astype('float32') / 255.
  10. # 转换形状
  11. x_train = np.reshape(x_train, (len(x_train), 28, 28, 1)) 
  12. x_test = np.reshape(x_test, (len(x_test), 28, 28, 1)) 
  13. # 训练模型
  14. autoencoder.fit(x_train, x_train,
  15. epochs=50,
  16. batch_size=128,
  17. shuffle=True,
  18. validation_data=(x_test, x_test),)
 

运行结果：
 

 

  1. Train on 60000 samples, validate on 10000 samples
  2. Epoch 1/50
  3. 60000/60000 [==============================] - 42s 699us/step - loss: 0.2094 - val_loss: 0.1738
  4. Epoch 2/50
  5. 60000/60000 [==============================] - 35s 586us/step - loss: 0.1511 - val_loss: 0.1389
  6. Epoch 3/50
  7. 60000/60000 [==============================] - 36s 603us/step - loss: 0.1371 - val_loss: 0.1302
  8. Epoch 4/50
  9. 60000/60000 [==============================] - 36s 604us/step - loss: 0.1301 - val_loss: 0.1256
  10. Epoch 5/50
  11. 60000/60000 [==============================] - 37s 609us/step - loss: 0.1256 - val_loss: 0.1236
  12. …
  13. Epoch 49/50
  14. 60000/60000 [==============================] - 38s 633us/step - loss: 0.0981 - val_loss: 0.0951
  15. Epoch 50/50
  16. 60000/60000 [==============================] - 39s 644us/step - loss: 0.0979 - val_loss: 0.0953
  17. <keras.callbacks.History at 0x7fbec2d90128>
 

查看重构的输出与原来的输出对比
 

查看 10 张重构后的图像与原图像的对比。 代码如下：
 

 

  1. # 预测
  2. decoded_imgs = autoencoder.predict(x_test)
  4. n = 10
  5. plt.figure(figsize=(20, 4))
  6. for i in range(n):
  7. # 显示原图像
  8. ax = plt.subplot(2, n, i+1)
  9. plt.imshow(x_test[i].reshape(28, 28))
  10. plt.gray()
  11. ax.get_xaxis().set_visible(False)
  12. ax.get_yaxis().set_visible(False)
  14. # 显示重构后的图像
  15. ax = plt.subplot(2, n, i + n+1)
  16. plt.imshow(decoded_imgs[i].reshape(28, 28))
  17. plt.gray()
  18. ax.get_xaxis().set_visible(False)
  19. ax.get_yaxis().set_visible(False)
  20. plt.show()
 

运行结果：
 

,
 

编程要求
 

根据左侧内容提示，补充右侧代码部分内容。
 

  • 补充编码器模型的卷积层和最大池化层参数。
  • 补充解码器模型的上采样层和卷积层参数。
 

因评测时间限时，实战代码只训练五轮的结果进行评测对比。
 

测试说明
 

平台会对你编写的代码进行测试：
 

测试输入：略； 预期输出： 通关成功!
 

 

开始你的任务吧，祝你成功！
 

 

代码部分
 

from keras.layers import Input, Dense, Conv2D, MaxPooling2D, UpSampling2D
from keras.models import Model
from Keras.datasets import mnist
import numpy as np
import matplotlib.pyplot as plt

# 设置随机种子
np.random.seed(1447)


def draw(X_test, decoded_imgs):
    
    n = 10
    plt.figure(figsize=(20, 4))
    for i in range(n):
        ax = plt.subplot(2, n, i+1)
        plt.imshow(X_test[i].reshape(28, 28))
        plt.gray()
        ax.get_xaxis().set_visible(False)
        ax.get_yaxis().set_visible(False)
        # 显示重构之后的图像
        ax = plt.subplot(2, n, i+1+n)
        plt.imshow(decoded_imgs[i].reshape(28, 28))
        plt.gray()
        ax.get_xaxis().set_visible(False)
        ax.get_yaxis().set_visible(False)
    plt.savefig("src/step2/stu_img/result.png")
    plt.show()


def autoencoder2():
    # 卷积编码器
    input_img = Input(shape=(28, 28, 1))  # 输入图像形状
    ###编码器
    # 卷积层
    x = Conv2D(16, (3, 3), activation='relu', padding='same')(input_img)
    # 最大池化
    x = MaxPooling2D((2, 2), padding='same')(x)

    x = Conv2D(8, (3, 3), activation='relu', padding='same')(x)
    x = MaxPooling2D((2, 2), padding='same')(x)

    # 定义一个卷积，卷积核大小为8，形状为(3,3)，激活函数为relu，padding为same
    # encoded是最大池化，池化形状为(2,2)，padding为same
    # ********** Begin *********#
    # x = 
    # encoded = 
    x = Conv2D(8, (3, 3), activation='relu', padding='same')(x)
    encoded = MaxPooling2D((2, 2), padding='same')(x)
    # ********** End *********#

    ###解码器
    x = Conv2D(8, (3, 3), activation='relu', padding='same')(encoded)
    # 上采样层
    x = UpSampling2D((2, 2))(x)
    x = Conv2D(8, (3, 3), activation='relu', padding='same')(x)
    x = UpSampling2D((2, 2))(x)
    x = Conv2D(16, (3, 3), activation='relu')(x)

    # 定义一个上采样层，形状为(2,2)
    # decoded是卷积层，卷积核大小为1，形状为(3,3)，激活函数为sigmoid，padding为same
    # ********** Begin *********#
    # x = 
    # decoded = 
    x = UpSampling2D((2, 2))(x)
    decoded = Conv2D(1, (3, 3), activation='sigmoid', padding='same')(x)

    # ********** Begin *********#


    autoencoder = Model(input_img, decoded)
    autoencoder.compile(optimizer='adadelta', loss='binary_crossentropy')

    # 数据处理
    (X_train, _), (X_test, _) = mnist.load_data()
    # 数据归一化
    X_train = X_train.astype('float32') / 255
    X_test = X_test.astype('float32') / 255
    # 数据形状转换
    X_train = np.reshape(X_train, (len(X_train), 28, 28, 1))
    X_test = np.reshape(X_test, (len(X_test), 28, 28, 1))
    print(X_train.shape)
    print(X_test.shape)

    # 训练模型
    autoencoder.fit(X_train, X_train, epochs=5, batch_size=128,
                    shuffle=True, validation_data=(X_test, X_test))
    # 预测
    decoded_imgs = autoencoder.predict(X_test)
    # 显示
    draw(X_test, decoded_imgs)

 

三、自编码器的应用
 
 

 

任务描述
 

本关任务：对数据集加入噪点，构建自编码器。
 

相关知识
 

为了完成本关任务，你需要掌握：1.自编码器在数据加入噪点后进行还原，2.编写代码进行实现。
 

自编码器的应用
 

介绍
 

我们把训练样本用噪声污染，然后使用解码器解码出干净的照片，以获得去噪自动编码器。
 

把原图片加入高斯噪声
 

我们可以通过以下方式来加入噪声并查看加噪后的图片,代码如下：
 

 

  1. from keras.datasets import mnist
  2. import numpy as np
  4. # 加载数据
  5. (x_train, _), (x_test, _) = mnist.load_data()
  7. # 归一化
  8. x_train = x_train.astype('float32') / 255.
  9. x_test = x_test.astype('float32') / 255.
  10. # 形状转换
  11. x_train = np.reshape(x_train, (len(x_train), 28, 28, 1)) 
  12. x_test = np.reshape(x_test, (len(x_test), 28, 28, 1)) 
  13. noise_factor = 0.5
  14. # 噪点
  15. x_train_noisy = x_train + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=x_train.shape) 
  16. x_test_noisy = x_test + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=x_test.shape) 
  17. x_train_noisy = np.clip(x_train_noisy, 0., 1.)
  18. x_test_noisy = np.clip(x_test_noisy, 0., 1.)
  20. n = 10
  21. plt.figure(figsize=(20, 2))
  22. # 显示
  23. for i in range(n):
  24. ax = plt.subplot(1, n, i+1)
  25. plt.imshow(x_test_noisy[i].reshape(28, 28))
  26. plt.gray()
  27. ax.get_xaxis().set_visible(False)
  28. ax.get_yaxis().set_visible(False)
  29. plt.show()
 

代码执行结果：
 

,
 

构建自编码器
 

参考上一关卡按如下步骤使用Keras函数模型搭建自编码器并拟合。
 

1）设置input_img参数。 2）搭建编码器，添加Conv2D层，输入是input_img，输出维度 32，卷积核大小3×3，激活函数’‘relu’，padding设置为‘same’，返回给x。 3）添加Maxpooling2D层，大小是（2，2），padding设置为‘same’。 4）添加Conv2D层，输出维度 32，卷积核大小3×3，激活函数’‘relu’，padding设置为‘same’。 5）添加Maxpooling2D层，大小是（2，2），padding设置为‘same’，返回给encoded。 6）设置解码器，添加Conv2D层，输入是encoded，输出维度 32，卷积核大小3×3，激活函数’‘relu’，padding设置为‘same’，返回给x。 7）添加上采样层，大小是（2，2）。 8）添加Conv2D层，输出维度 32，卷积核大小3×3，激活函数’‘relu’，padding设置为‘same’。 9）添加上采样层，大小是（2，2）。 10）添加Conv2D层，输入是encoded，输出维度 1，卷积核大小3×3，激活函数’‘sigmoid’，padding设置为‘same’，返回给decoded。 11）设置自编码器，输入是input_img,decoded。 12）编译自编码器，参数不变。 13）拟合数据，参数与上个关卡一样。
 

 

  1. # 输入尺寸
  2. input_img = Input(shape=(28, 28, 1)) 
  4. # 卷积层
  5. x = Conv2D(32, (3, 3), activation='relu', padding='same')(input_img)
  6. # 池化层
  7. x = MaxPooling2D((2, 2), padding='same')(x)
  8. x = Conv2D(32, (3, 3), activation='relu', padding='same')(x)
  9. encoded = MaxPooling2D((2, 2), padding='same')(x)
  11. # 卷积层
  12. x = Conv2D(32, (3, 3), activation='relu', padding='same')(encoded)
  13. # 上采样层
  14. x = UpSampling2D((2, 2))(x)
  15. x = Conv2D(32, (3, 3), activation='relu', padding='same')(x)
  16. x = UpSampling2D((2, 2))(x)
  17. decoded = Conv2D(1, (3, 3), activation='sigmoid', padding='same')(x)
  19. # 定义模型
  20. autoencoder = Model(input_img, decoded)
  21. # 模型编译
  22. autoencoder.compile(optimizer='adadelta', loss='binary_crossentropy')
  23. # 训练模型
  24. autoencoder.fit(x_train_noisy, x_train,
  25. epochs=100,
  26. batch_size=128,
  27. shuffle=True,
  28. validation_data=(x_test_noisy, x_test),)
 

代码执行结果：
 

 

  1. Train on 60000 samples, validate on 10000 samples
  2. Epoch 1/50
  3. 60000/60000 [==============================] - 66s 1ms/step - loss: 0.1182 - val_loss: 0.1111
  4. Epoch 2/50
  5. 60000/60000 [==============================] - 63s 1ms/step - loss: 0.1114 - val_loss: 0.1081
  6. Epoch 3/50
  7. 60000/60000 [==============================] - 71s 1ms/step - loss: 0.1077 - val_loss: 0.1035
  8. Epoch 4/50
  9. 60000/60000 [==============================] - 71s 1ms/step - loss: 0.1055 - val_loss: 0.1034
  10. Epoch 5/50
  11. 60000/60000 [==============================] - 60s 1ms/step - loss: 0.1040 - val_loss: 0.1036
  12. …
  13. Epoch 49/50
  14. 60000/60000 [==============================] - 68s 1ms/step - loss: 0.0954 - val_loss: 0.0950
  15. Epoch 50/50
  16. 60000/60000 [==============================] - 67s 1ms/step - loss: 0.0953 - val_loss: 0.0946
  17. <keras.callbacks.History at 0x7f685ce82390>
 

查看重构的输出与原来的输出对比
 

查看10张重构后的图像与原图像的对比。
 

代码如下：
 

 

  1. # 预测
  2. decoded_imgs = autoencoder.predict(x_test)
  4. n = 10
  5. plt.figure(figsize=(20, 4))
  6. # 显示10张重构后的图像与原图像的对比
  7. for i in range(n):
  9. ax = plt.subplot(2, n, i + 1)
  10. plt.imshow(x_test_noisy[i].reshape(28, 28))
  11. plt.gray()
  12. ax.get_xaxis().set_visible(False)
  13. ax.get_yaxis().set_visible(False)
  16. ax = plt.subplot(2, n, i + n + 1)
  17. plt.imshow(decoded_imgs[i].reshape(28, 28))
  18. plt.gray()
  19. ax.get_xaxis().set_visible(False)
  20. ax.get_yaxis().set_visible(False)
  21. plt.show()
 

执行代码结果：
 

,
 

编程要求
 

根据左侧内容提示，补充右侧代码部分内容。
 

  • 补充对测试集数据的噪点和截取操作。
  • 补充自编码器模型的编译参数。
 

因评测时间限时，实战代码只训练十轮的结果进行评测对比。
 

测试说明
 

平台会对你编写的代码进行测试：
 

测试输入：略； 预期输出： 通关成功！
 

 

开始你的任务吧，祝你成功！
 

 

代码部分
 

from keras.layers import Input, Dense, Conv2D, MaxPooling2D, UpSampling2D
from keras.models import Model
from Keras.datasets import mnist
import numpy as np
import matplotlib.pyplot as plt

# 设置随机种子
np.random.seed(1447)


def draw(X_test, decoded_imgs):
    n = 10
    plt.figure(figsize=(20, 4))
    for i in range(n):
        ax = plt.subplot(2, n, i+1)
        plt.imshow(X_test[i].reshape(28, 28))
        plt.gray()
        ax.get_xaxis().set_visible(False)
        ax.get_yaxis().set_visible(False)
        # 显示重构之后的图像
        ax = plt.subplot(2, n, i+1+n)
        plt.imshow(decoded_imgs[i].reshape(28, 28))
        plt.gray()
        ax.get_xaxis().set_visible(False)
        ax.get_yaxis().set_visible(False)

    # 保存图片文件
    plt.savefig("src/step3/stu_img/result.png")
    plt.show()


def autoencoder3():
    # 数据处理
    (X_train, _), (X_test, _) = mnist.load_data()
    # 数据归一化
    X_train = X_train.astype('float32') / 255
    X_test = X_test.astype('float32') / 255
    # 数据形状转换
    X_train = np.reshape(X_train, (len(X_train), 28, 28, 1))
    X_test = np.reshape(X_test, (len(X_test), 28, 28, 1))

    # 加入数据噪点
    # ********** Begin *********#

    noise_factor = 0.5  # 噪点因子
    X_train_noisy = X_train + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=X_train.shape)
    
    # 给测试集加入噪点
    #X_test_noisy = 
    X_test_noisy = X_test + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=X_test.shape) 
    X_train_noisy = np.clip(X_train_noisy, 0., 1.)

    # 对测试集进行截取
    # X_test_noisy = 
    X_test_noisy = np.clip(X_test_noisy, 0., 1.)
    # ********** End *********#


    # 输入图片形状
    input_img = Input(shape=(28, 28, 1))
    ### 编码器
    x = Conv2D(32, (3, 3), activation='relu', padding='same')(input_img)
    x = MaxPooling2D((2, 2), padding='same')(x)
    x = Conv2D(32, (3, 3), activation='relu', padding='same')(x)
    encoded = MaxPooling2D((2, 2), padding='same')(x)

    ### 解码器
    x = Conv2D(32, (3, 3), activation='relu', padding='same')(encoded)
    x = UpSampling2D((2, 2))(x)
    x = Conv2D(32, (3, 3), activation='relu', padding='same')(x)
    x = UpSampling2D((2, 2))(x)
    decoded = Conv2D(1, (3, 3), activation='sigmoid', padding='same')(x)

    # 定义模型
    autoencoder = Model(input_img, decoded)

    # 编译模型，优化器为adadelta，损失函数为binary_crossentropy
    # ********** Begin *********#
    # autoencoder.compile()
    autoencoder.compile(optimizer='adadelta', loss='binary_crossentropy')
    
    # ********** End *********#

    # 训练模型
    autoencoder.fit(X_train_noisy, X_train, epochs=10, batch_size=128,
                    shuffle=True, validation_data=(X_test_noisy, X_test))

    # 预测
    decoded_imgs = autoencoder.predict(X_test)
    # 显示
    draw(X_test_noisy, decoded_imgs)


 


                

        

        

    




    

      

        

            

              
                
                  草堂春睡足
                
              
            

            

                关注
              
            

        

        

          
    
            
  • 
              
                
                
                
                
                    11
                
              
              
    点赞
    
            
    • 
            
  • 
              
                
                
                
              
              
    踩
    
            
    • 
            
  • 
              
                
                
                
                
                    13
                
              
              
    
                
    
                  
                    收藏
                  
                
    
              
    
              
    
                
    
                  觉得还不错?
                  
                    一键收藏
                  
                 
                
    
              
    
            
    • 
          
  • 
            
    
              
              
            
    
              
              
              
                    0
              
            
            
    评论
    
          
    • 
          
  • 
          
    • 
          
  • 
            
              
            
              
    
            
              
                
            
    
          
    • 
        

      

      

            

                专栏目录
          










                



	

		

			

				
					
基本自编码器

				
			

			

				

					weixin_45032957的博客
				

				

					09-27
					
					745
					
				

			

		

		

			
				
香草自编码器，只有三层网络，即只有一个隐藏层的神经网络。它的输入和输出是相同的，可通过使用Adam优化器和均方误差损失函数，来学习如何重构输入。
隐藏层的压缩维度为32，小于输入维度784，因此这个编码器是有损的，通过这个约束，来迫使神经网络来学习数据的压缩表征。
复制代码
from keras.layers import Input, Dense
from keras.models import...

			
		

	



                

              
                



	

		

			

				
					
Keras——用Keras搭建自编码神经网络(AutoEncoder)

				
			

			

				

					weixin_37763870的博客
				

				

					04-21
					
					3092
					
				

			

		

		

			
				
文章目录1.前言2.用Keras搭建自编码神经网络2.1.导入必要模块2.2.数据预处理2.3.搭建模型2.4.实例化并激活模型2.5.训练2.6.可视化
1.前言
自编码，简单来说就是把输入数据进行一个压缩和解压缩的过程。 原来有很多 Feature，压缩成几个来代表原来的数据，解压之后恢复成原来的维度，再和原数据进行比较。
它是一种非监督算法，只需要输入数据，解压缩之后的结果与原数据本身进行比...

			
		

	



                


  
              

                


	

		

			

				
					
keras实战-入门之自编码器

				
			

			

				

					王伟王胖胖的博客
				

				

					06-30
					
					1951
					
				

			

		

		

			
				
keras实战-入门之自编码器自编码器
自编码器
一种生成模型，就是一种你输入什么，最后让他输出什么，中间会生成一个向量，可以进行数据的降维，可以获得特征向量，比如把某个图压缩成一个N维向量，还可以用这个向量复原回图，降维的特性跟PCA有点类似。下面的代码就是个例子，用全连接将手写数字进行自编码，可以看到编码成维度较高的向量，复原会比较好，维度较低的不太好，估计是因为压缩的太厉害了，缺少了很多特征...

			
		

	





	

		

			

				
					
DL入门(2)：自编码器(AutoEncoder)

					
热门推荐

				
			

			

				

					KI的博客
				

				

					01-17
					
					6万+
					
				

			

		

		

			
				
简单叙述普通自编码器、堆叠自编码器、稀疏自编码器、降噪自编码器的原理及应用。

			
		

	



		

			
		



	

		

			

				
					
Keras 之 自编码器（Auto Encoder）

				
			

			

				

					士杰的博客
				

				

					06-01
					
					1351
					
				

			

		

		

			
				
这里以 fashion_mnist 数据集为例，先写出自编码器的基本实现代码如下：
import  os
import  tensorflow as tf
import  numpy as np
from    tensorflow import keras
from    tensorflow.keras import Sequential, layers
from    PIL import Image
from    matplotlib import pyplot as plt

tf.random

			
		

	





	

		

			

				
					
计算机视觉与计算机图形学

				
			

			

				

					10-28
				

			

		

		

			
				
其中包括计算机科学和工程、信号处理、物理学、应用数学和统计学，神经生理学和认知科学等。计算机视觉既是工程领域，也是科学领域中的一个富有挑战性重要研究领域。  计算机视觉的挑战是要为计算机和机器人开发具有...

			
		

	





	

		

			

				
					
一种高效的稀疏卷积神经网络加速器的设计与实现.pdf

				
			

			

				

					09-25
				

			

		

		

			
				
并行计算广泛应用于深度学习、科学计算等领域。  5. 嵌入式系统（Embedded Systems）：指的是专门设计的计算机系统，用于控制和操作各种设备和机器，例如机器人、自动驾驶汽车等。嵌入式系统通常具有有限的计算资源...

			
		

	





	

		

			

				
					
欧拉公式求圆周率的matlab代码-mate-computacional:数学计算

				
			

			

				

					05-23
				

			

		

		

			
				
欧拉公式求职率的matlab代码计算数学 在开始之前 .​​.. 安装git 如果您使用的是Debian式的GNU/Linux Debian ： sudo apt-get install git 。 如果您使用的是MacOS，请按照说明进行操作，并按照说明进行操作。 在...

			
		

	





	

		

			

				
					
基于神经网络的DNA序列分类的研究.pdf

				
			

			

				

					09-27
				

			

		

		

			
				
7. MATLAB软件：MATLAB是一种高级编程语言和开发环境，广泛应用于科学计算、数据分析、机器学习等领域。  8. DNA序列的特征向量：DNA序列的特征向量是指从DNA序列中提取的有价值的特征，用于分类和分析DNA序列。  9....

			
		

	





	

		

			

				
					
数据融合matlab代码-MatlabOrJulia:Julia的生态系统研究，作为Matlab的替代方案

				
			

			

				

					05-22
				

			

		

		

			
				
数学优化的建模语言（线性，混合整数，圆锥形，半确定，非线性） 符号数学工具箱 映射工具箱 偏微分方程工具箱 ：可能是最好的微分方程求解器，请检查。 人工智能，数据科学与统计 统计和机器学习工具箱 ：概率编程...

			
		

	





	

		

			

				
					
如何在 Python 中使用自动编码器的完整指南

				
			

			

				

					深度学习与计算机视觉
				

				

					08-29
					
					2410
					
				

			

		

		

			
				
介绍自动编码器实际上是一种人工神经网络，用于对以无监督方式提供的输入数据进行解压缩和压缩。解压缩和压缩操作是有损的且特定于数据的。数据特定意味着自动编码器将只能实际压缩已经训练过的数据。例...

			
		

	





	

		

			

				
					
自编码器的理解与应用

				
			

			

				

					weixin_42228166的博客
				

				

					04-28
					
					7350
					
				

			

		

		

			
				
什么是自编码器（AutoEncoder）？
自编码器可以用来干什么？
自编码器有什么优缺点？
具体有哪些自编码器？

			
		

	





	

		

			

				
					
Keras  自编码器AutoEncoder（五）

				
			

			

				

					_yuki_
				

				

					12-07
					
					1万+
					
				

			

		

		

			
				
一、什么是自编码器（Autoencoder）






“自编码”是一种数据压缩算法，其中压缩和解压缩功能是1）数据特定的，2）有损的，3）从例子中自动学习而不是由人工设计。此外，在几乎所有使用术语“自动编码器”的情况下，压缩和解压缩功能都是用神经网络来实现的。

1）自动编码器是特定于数据的，这意味着它们只能压缩类似于他们所训练的数据。这与例如MPEG-2音频层III（MP3

			
		

	





	

		

			

				
					
Autoencoder

				
			

			

				

					Touch_Dream的博客
				

				

					08-23
					
					5506
					
				

			

		

		

			
				
转载：http://blog.csdn.net/marsjhao/article/details/73480859
一、什么是自编码器（Autoencoder）

自动编码器是一种数据的压缩算法，其中数据的压缩和解压缩函数是数据相关的、有损的、从样本中自动学习的。在大部分提到自动编码器的场合，压缩和解压缩的函数是通过神经网络实现的。
1）自动编码器是数据相关的（data-specific 

			
		

	





	

		

			

				
					
稀疏编码器（Sparse Encoder）

				
			

			

				

					雪伦的专栏
				

				

					12-08
					
					8107
					
				

			

		

		

			
				
1.介绍在自动编码器一文中，我们已经简单介绍了基于隐藏神经元数量较小的假设，本文主要基于隐藏神经元数量较大的假设。此时，我们仍然通过给自编码神经网络施加一些其他的限制条件来发现输入数据中的结构。比如我们给隐藏神经元加入稀疏性限制。稀疏性可以被简单地解释如下：假设神经元的激活函数时sigmoid函数，那么当神经元的输出接近于1的时候我们认为它被激活，而输出接近于0的时候认为它被抑制，那么使得神经元大部

			
		

	





	

		

			

				
					
keras简单的去噪自编码器代码和各种类型自编码器代码

				
			

			

				

					owenfy的博客
				

				

					04-26
					
					5650
					
				

			

		

		

			
				
start = time()

from keras.models import Sequential
from keras.layers import Dense, Dropout,Input
from keras.layers import Embedding
from keras.layers import Conv1D, GlobalAveragePooling1D, MaxPooling...

			
		

	





	

		

			

				
					
keras 中 Embedding层input_dim,output_dim个人理解

				
			

			

				

					CoderLife_的博客
				

				

					01-25
					
					1万+
					
				

			

		

		

			
				
from keras.layers.embeddings import Embedding
Embedding(input_dim, output_dim, embeddings_initializer='uniform', embeddings_regularizer=None, activity_regularizer=None, embeddings_constraint=None, mas...

			
		

	





	

		

			

				
					
利用keras搭建自编码器网络——脑机接口

				
			

			

				

					u012458963的博客
				

				

					05-19
					
					1229
					
				

			

		

		

			
				
因为我的本科毕设就是做自编码器的，所以，自编码器部分还是很好理解的，在这里不多赘述。我现在主要是看一下mnist的自编码器部分，然后利用这个来搭建自己数据的自编器网络。
  贴几个参考代码的链接
  
  https://kiseliu.github.io/2016/08/16/building-autoencoders-in-keras/
  
  http://ff120.github.io/2

			
		

	





	

		

			

				
					
排队论与计算机仿真数学建模

					
最新发布

				
			

			

				

					06-03
				

			

		

		

			
				
在计算机仿真数学建模中，排队论可以被应用于模拟现实生活中的排队系统，例如银行、超市、电话服务中心等，以评估和优化系统的性能。通过排队论模型，我们可以获得排队系统的各种指标，如平均等待时间、平均逗留时间...

			
		

	



              



  
“相关推荐”对你有帮助么？

  

      
    
          
  • 
              
    
                  
                  
              
    
              
    非常没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    一般
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    有帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    非常有帮助
    
          
    • 
      

      

      

          
          提交
      

      

  




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值