Python深度学习04——Keras自编码器(AE)实现

已于 2022-07-03 09:39:29 修改
阅读量3.7k 收藏 42
点赞数 3
分类专栏： Python深度学习 文章标签： python 机器学习 深度学习 keras 人工智能
于 2022-07-03 09:38:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46277779/article/details/125580964
版权

 参考书目：陈允杰.TensorFlow与Keras——Python深度学习应用实战.北京:中国水利水电出版社,2021

本系列基本不讲数学原理，只从代码角度去让读者们利用最简洁的Python代码实现深度学习方法。

自编码器是一种实现编码和解码的神经网络，是一种数据压缩的算法，类似于主成分分析，是一种降维的特征提取。其特点为：

1.只使用特定的数据自编码器，只适用于与训练集相似的数据压缩。
2.在编码和解码的过程中，数据会有一定的损失。
3.自编码器是从自身学习，他不需要标签数据，是一种非监督式的学习。
下面分别使用MLP和CNN作为编码解码器，处理手写数字数据集，并降噪

MLP创建自编码器

导入数据和包，使用手写数字集MNIST：

import numpy as np
import pandas as pd
from keras.datasets import mnist
import matplotlib.pyplot as plt
from keras.models import Model
from keras.layers import Input, Dense

np.random.seed(10)   # 指定乱数种子

# 载入数据集
(X_train, _), (X_test, _) = mnist.load_data()
#转换成 28*28 = 784 的向量
X_train = X_train.reshape(X_train.shape[0], 28*28).astype("float32")
X_test = X_test.reshape(X_test.shape[0], 28*28).astype("float32")
# 因为是固定范围, 所以执行正规化, 从 0-255 至 0-1
X_train = X_train / 255
X_test = X_test / 255

X_train.shape

因为是MLP，只接受2维输入，将X一张2为图片拉成784的向量 ，总共60000个X，下面开始定义编码器

# 定义autoencoder 模型
input_img = Input(shape=(784,))
x = Dense(128, activation="relu")(input_img)
encoded = Dense(64, activation="relu")(x)

这是编码阶段，输入图片imput_img,经过一个隐藏层变为X，然后再经过一个隐藏层变为encoded输出，下面是解码器

x = Dense(128, activation="relu")(encoded)
decoded = Dense(784, activation="sigmoid")(x)

使用Model进行合并为自编码器

autoencoder = Model(input_img, decoded)
autoencoder.summary()  # 显示模型摘要信息

 编码器为：

# 定义encoder 模型
encoder = Model(input_img, encoded)
encoder.summary()    # 显示模型摘要信息

 定义解码器

# 定义 decoder 模型
decoder_input = Input(shape=(64,))
decoder_layer = autoencoder.layers[-2](decoder_input)
decoder_layer = autoencoder.layers[-1](decoder_layer)
decoder = Model(decoder_input, decoder_layer)
decoder.summary()   # 显示模型摘要信息

#编译模型
from tensorflow.keras  import optimizers
autoencoder.compile(loss="binary_crossentropy", optimizer= optimizers.Adam(),metrics=["accuracy"])

开始训练

# 训练模型
autoencoder.fit(X_train, X_train, validation_data=(X_test, X_test),epochs=10, batch_size=256, shuffle=True, verbose=1)

 计算压缩图片，也就是编码器的输出，然后计算解码器的输出

# 压缩图片
encoded_imgs = encoder.predict(X_test)

# 解压缩图片
decoded_imgs = decoder.predict(encoded_imgs)

然后画图展示一下

#  显示原始, 压缩和还原图片
n = 10  # 显示几个数字 
plt.figure(figsize=(20, 6))
for i in range(n):
    # 原始图片
    ax = plt.subplot(3, n, i + 1)
    ax.imshow(X_test[i].reshape(28, 28), cmap="gray")
    ax.axis("off")
    #压缩图片  
    ax = plt.subplot(3, n, i + 1 + n)
    ax.imshow(encoded_imgs[i].reshape(8, 8), cmap="gray")
    ax.axis("off")
    # 还原图片 
    ax = plt.subplot(3, n, i + 1 + 2*n)
    ax.imshow(decoded_imgs[i].reshape(28, 28), cmap="gray")
    ax.axis("off")
plt.show()

 中间那些很糊的就是中间的压缩图片，而且解码出来的图片有一定的损失。

CNN创建自编码器

前面过程一样

import numpy as np
from keras.datasets import mnist
from keras.models import Model
from keras.layers import Input, Conv2D, MaxPooling2D, UpSampling2D
# 指定乱数种子
seed = 7
np.random.seed(seed)
# 载入数据集
(X_train, _), (X_test, _) = mnist.load_data()
#转换成4D 张量
X_train = X_train.reshape(X_train.shape[0], 28, 28, 1).astype("float32")
X_test = X_test.reshape(X_test.shape[0], 28, 28, 1).astype("float32")
# 因为是固定范围, 所以执行正规化, 从 0-255 至 0-1
X_train = X_train / 255
X_test = X_test / 255

定义的层不一样，CNN除了卷积层还有池化层，层数更为复杂

# 定义 autoencoder 模型
input_img = Input(shape=(28,28,1))
x = Conv2D(16, (3,3), activation="relu", padding="same")(input_img)
x = MaxPooling2D((2,2), padding="same")(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(x)
x = MaxPooling2D((2,2), padding="same")(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(x)
encoded = MaxPooling2D((2,2), padding="same")(x)

x = Conv2D(8, (3,3), activation="relu", padding="same")(encoded)
x = UpSampling2D((2,2))(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(x)
x = UpSampling2D((2,2))(x)
x = Conv2D(16, (3,3), activation="relu")(x)
x = UpSampling2D((2,2))(x)
decoded = Conv2D(1, (3, 3), activation="sigmoid", padding="same")(x)
autoencoder = Model(input_img, decoded)
autoencoder.summary()     # 显示模型摘要资讯

 编码器

#定义 encoder 模型
encoder = Model(input_img, encoded)
encoder.summary()    #显示模型摘要资讯

 解码器

#定义 decoder 模型
decoder_input = Input(shape=(4,4,8))
decoder_layer = autoencoder.layers[-7](decoder_input)
decoder_layer = autoencoder.layers[-6](decoder_layer)
decoder_layer = autoencoder.layers[-5](decoder_layer)
decoder_layer = autoencoder.layers[-4](decoder_layer)
decoder_layer = autoencoder.layers[-3](decoder_layer)
decoder_layer = autoencoder.layers[-2](decoder_layer)
decoder_layer = autoencoder.layers[-1](decoder_layer)
decoder = Model(decoder_input, decoder_layer)
decoder.summary()    # 显示模型摘要资讯

 编译模型和训练

# 编译模型
autoencoder.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])
# 训练模型
autoencoder.fit(X_train, X_train, validation_data=(X_test, X_test), epochs=10, batch_size=128, shuffle=True, verbose=2)

计算压缩图片和解码图片，画图展示

# 压缩图片
encoded_imgs = encoder.predict(X_test)
#解压图片
decoded_imgs = decoder.predict(encoded_imgs)

# 显示原始, 压缩和还原图片
import matplotlib.pyplot as plt

n = 10  # 显示几个数字
plt.figure(figsize=(20, 8))
for i in range(n):
    # 原始图片
    ax = plt.subplot(3, n, i + 1)
    ax.imshow(X_test[i].reshape(28, 28), cmap="gray")
    ax.axis("off")
    # 压缩图片
    ax = plt.subplot(3, n, i + 1 + n)
    ax.imshow(encoded_imgs[i].reshape(4, 4*8).T, cmap="gray")
    ax.axis("off")
    #  还原图片
    ax = plt.subplot(3, n, i + 1 + 2*n)
    ax.imshow(decoded_imgs[i].reshape(28, 28), cmap="gray")
    ax.axis("off")
plt.show()

CNN自编码器去噪

前面过程一样，模型也是一样的，直接复制就行，就是中间加了一段给图片加了噪音

import numpy as np
from keras.datasets import mnist
from keras.models import Model
from keras.layers import Input, Conv2D, MaxPooling2D, UpSampling2D

#指定乱数种子
seed = 7
np.random.seed(seed)
# 载入数据集
(X_train, _), (X_test, _) = mnist.load_data()
#  转换成4D 张量
X_train = X_train.reshape(X_train.shape[0], 28, 28, 1).astype("float32")
X_test = X_test.reshape(X_test.shape[0], 28, 28, 1).astype("float32")
# 因为是固定范围, 所以执行正规化, 从 0-255 至 0-1 
X_train = X_train / 255
X_test = X_test / 255

# 替图片制造杂讯  
nf = 0.5
size_train = X_train.shape
X_train_noisy = X_train+nf*np.random.normal(loc=0.0, scale=1.0,size=size_train)
X_train_noisy = np.clip(X_train_noisy, 0., 1.)

size_test = X_test.shape
X_test_noisy = X_test+nf*np.random.normal(loc=0.0,scale=1.0,size=size_test)
X_test_noisy = np.clip(X_test_noisy, 0., 1.)

# 定义 autoencoder 模型
input_img = Input(shape=(28,28,1))
x = Conv2D(16, (3,3), activation="relu", padding="same")(input_img)
x = MaxPooling2D((2,2), padding="same")(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(x)
x = MaxPooling2D((2,2), padding="same")(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(x)
encoded = MaxPooling2D((2,2), padding="same")(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(encoded)
x = UpSampling2D((2,2))(x)
x = Conv2D(8, (3,3), activation="relu", padding="same")(x)
x = UpSampling2D((2,2))(x)
x = Conv2D(16, (3,3), activation="relu")(x)
x = UpSampling2D((2,2))(x)
decoded = Conv2D(1, (3, 3), activation="sigmoid", padding="same")(x)
autoencoder = Model(input_img, decoded)
autoencoder.summary()   #显示模型摘要资讯


# 定义encoder 模型
encoder = Model(input_img, encoded)
encoder.summary()     # 显示模型摘要资讯

# 定义 decoder 模型
decoder_input = Input(shape=(4,4,8))
decoder_layer = autoencoder.layers[-7](decoder_input)
decoder_layer = autoencoder.layers[-6](decoder_layer)
decoder_layer = autoencoder.layers[-5](decoder_layer)
decoder_layer = autoencoder.layers[-4](decoder_layer)
decoder_layer = autoencoder.layers[-3](decoder_layer)
decoder_layer = autoencoder.layers[-2](decoder_layer)
decoder_layer = autoencoder.layers[-1](decoder_layer)
decoder = Model(decoder_input, decoder_layer)
decoder.summary()   # 显示模型摘要资讯

#  编译模型
autoencoder.compile(loss="binary_crossentropy", optimizer="adam",metrics=["accuracy"])
# 训练模型
autoencoder.fit(X_train_noisy, X_train, 
                validation_data=(X_test_noisy, X_test), 
                epochs=10, batch_size=128, shuffle=True, verbose=2)
# 压缩图片
encoded_imgs = encoder.predict(X_test_noisy)
#解压缩图片
decoded_imgs = decoder.predict(encoded_imgs)

# 显示原始, 压缩和还原图片
import matplotlib.pyplot as plt

n = 10  #  显示几个数字
plt.figure(figsize=(20, 8))
for i in range(n):
    #  原始图片
    ax = plt.subplot(3, n, i + 1)
    ax.imshow(X_test_noisy[i].reshape(28, 28), cmap="gray")
    ax.axis("off")
    #压缩图片
    ax = plt.subplot(3, n, i + 1 + n)
    ax.imshow(encoded_imgs[i].reshape(4, 4*8).T, cmap="gray")
    ax.axis("off")
    # 还原图片
    ax = plt.subplot(3, n, i + 1 + 2*n)
    ax.imshow(decoded_imgs[i].reshape(28, 28), cmap="gray")
    ax.axis("off")
plt.show()

 去噪效果还不错

阡之尘埃
关注
专栏目录
使用Python实现深度学习模型：自动编码器（Autoencoder）
Echo_Wish的博客
05-15 946
自动编码器是一种用于数据降维和特征提取的神经网络。编码器（Encoder）：将输入数据编码为低维的潜在表示（latent representation）。解码器（Decoder）：从低维的潜在表示重建输入数据。通过训练自动编码器，使得输入数据和重建数据之间的误差最小化，从而实现数据的压缩和特征学习。我们定义一个简单的自动编码器模型，包括编码器和解码器两个部分。# 编码器nn.ReLU(),nn.ReLU(),# 解码器nn.ReLU(),nn.ReLU(),return x。
Keras深度学习实战（16）——自编码器详解
盼小辉丶的博客
07-24 5928
对于高维输入向量的压缩对于许多应用来说都是至关重要的，不仅可以降低数据处理难度，同时也可以增加数据传输效率。本文介绍了在深度学习领域常用的数据编码技术——自编码器 (AutoEncoder)，并使用 MNIST 数据集训练了多个自编码器变体模型；最后，还将二维编码向量进行可视化，以验证相似的图像是否具有相似的嵌入。...
Keras 自编码器实战指南
最新发布
gitblog_01082的博客
09-01 418
Keras 自编码器实战指南 keras-autoencodersAutoencoders in Keras项目地址:https://gitcode.com/gh_mirrors/ke/keras-autoencoders 项目介绍 本项目“Keras Autoencoders”是一个基于Keras库的自编码器集合，旨在展示多种自编码器模型的实现方式。自编码器是一种神经网络架构，主要用于数据编...
Keras 自编码器AutoEncoder（五）
热门推荐
_yuki_
12-07 1万+
一、什么是自编码器（Autoencoder） “自编码”是一种数据压缩算法，其中压缩和解压缩功能是1）数据特定的，2）有损的，3）从例子中自动学习而不是由人工设计。此外，在几乎所有使用术语“自动编码器”的情况下，压缩和解压缩功能都是用神经网络来实现的。 1）自动编码器是特定于数据的，这意味着它们只能压缩类似于他们所训练的数据。这与例如MPEG-2音频层III（MP3
Keras 之 自编码器（Auto Encoder）
士杰的博客
06-01 1410
这里以 fashion_mnist 数据集为例，先写出自编码器的基本实现代码如下： import os import tensorflow as tf import numpy as np from tensorflow import keras from tensorflow.keras import Sequential, layers from PIL import Image from matplotlib import pyplot as plt tf.random
Keras实现autoencoder
weixin_30650859的博客
09-16 280
Keras使我们搭建神经网络变得异常简单，之前我们使用了Sequential来搭建LSTM:keras实现LSTM。 我们要使用Keras的functional API搭建更加灵活的网络结构，比如说本文的autoencoder，关于autoencoder的介绍可以在这里找到：deep autoencoder。 现在我们就开始。 step 0 导入需要的包 1 import ker...
Keras搭建自编码器操作
09-16
主要介绍了Keras搭建自编码器操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
Python深度学习实践：自动编码器在数据降维中的应用
AI天才研究院
05-06 861
随着信息技术的飞速发展，我们正处于一个数据爆炸的时代。各行各业都在产生海量的数据，从社交媒体的互动到电子商务的交易，从传感器网络的监测到科学实验的记录。高维性: 数据往往包含大量的特征，导致维度灾难，使得传统的数据分析方法难以有效处理。冗余性: 数据中存在大量的冗余信息，例如图像中的相邻像素点之间的高度相关性，这会降低模型的效率和泛化能力。噪声: 数据中不可避免地存在噪声和误差，这会干扰模型的学习和预测。更复杂的网络结构: 例如卷积自动编码器、循环自动编码器等，可以处理更复杂的数据类型。
基于python使用卷积自编码器对图像进行去噪设计与实现
05-04
卷积自编码器（Convolutional Autoencoder, CAE）是一种深度学习模型，它结合了卷积神经网络（Convolutional Neural Network, CNN）的特性与自编码器（Autoencoder, AE）的理念，用于图像处理任务，特别是图像去噪。...
tensorflow自编码器AE网络.zip|tensorflow自编码器AE网络.zip
10-08
总结来说，通过TensorFlow实现的自编码器AE网络在fashionMNIST数据集上的应用，不仅展示了如何构建和训练自编码器，还提供了深入学习图像特征的实用示例。这个实例对于理解自编码器的工作原理、TensorFlow API的使用...
Deep_Learning_with_Python_Keras(深度学习与python)（英文版）
03-06
这一领域包括卷积神经网络（CNN）、循环神经网络（RNN）、自编码器（AE）、生成对抗网络（GAN）等众多模型。在Python中，Keras库以其易用性和灵活性成为了深度学习研究和应用的首选工具。 本书首先介绍了深度学习的...
堆叠降噪自编码器python代码（基于TensorFlow1.0），已跑通
03-15
实现堆叠降噪自编码器功能，以tensorflow中的mnist数据集为例，python2.7
模型预训练 自编码器AE 去噪自编码器 denoiseAE 原码keras Tensorflow 初始化模型参数 模型参数微调
deepzhangzhihau的博客
10-24 629
Keras Tensorflow构建自编码器AE原码 使用自编码器AE预训练模型，构建自编码器AE初始化网络参数，然后再微调模型参数。 from keras import modelsfrom keras import layersdef build_pre_normalAE(data_dim, X_train, epoch_pretrain=25, hidDim=[100,140]): ae = models.Sequential() ae.add(layers.Dense(hid...
探索深度学习之美：Keras 自动编码器实现
gitblog_00028的博客
06-03 276
探索深度学习之美：Keras 自动编码器实现 项目地址:https://gitcode.com/nanopony/keras-convautoencoder 1. 项目介绍 在深度学习的世界中，自动编码器（Autoencoder）是一种非常有趣的模型，它能用于数据压缩、降维和特征学习。这个开源项目提供了基于 Keras 的卷积自动编码器（Convolutional Autoencoder, CA...
Python学习笔记——自动编码器
weixin_53863008的博客
10-01 632
自动编码器
自动编码器python_算法进阶(一)之自动编码器
weixin_39981681的博客
12-08 898
自动编码器(autoencoder) 是神经网络的一种，该网络可以看作由两部分组成：一个编码器函数h = f(x) 和一个生成重构的解码器r = g(h)。传统上，自动编码器被用于降维或特征学习自编码器原理示意图编码器：将原始高维特征数据映射为低维度表征数据解码器：将低纬度的压缩特征重构回原始数据核心：输入特征等于输出特征那么我们就会有一个疑问:压缩特征为什么小于输入特征？这里我们使用的是欠完备自...
深度学习——自编码器AutoEncoder
Elon15的博客
07-17 5848
深度学习——自编码器AutoEncoder
keras中文文档笔记14——花式自动编码器
zhzhx0318的专栏
08-20 2185
什么是自动编码器（Autoencoder）？自动编码器是一种数据的压缩算法，其中数据的压缩和解压缩函数是：1）数据相关的,2）有损的，3）从样本中自动学习的。在大部分提到自动编码器的场合，压缩和解压缩的函数是通过神经网络实现的。1）自动编码器是数据相关的（data-specific 或 data-dependent），这意味着自动编码器只能压缩那些与训练数据类似的数据。自编码器与一般的压缩算法，如M
Keras搭建的自编码模型
机器学习
08-22 2189
import numpy as np   np.random.seed(1337)  # for reproducibility      from keras.datasets import mnist   from keras.models import Model #泛型模型   from keras.layers import Dense, Input   import mat
深度自编码器python代码
07-27
- *1* *2* *3* [Python深度学习04——Keras自编码器(AE)实现](https://blog.csdn.net/weixin_46277779/article/details/125580964)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

阡之尘埃

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值