【模型学习-AE】自编码器、AE、AutoEncoder

最新推荐文章于 2025-01-15 23:12:18 发布
最新推荐文章于 2025-01-15 23:12:18 发布
阅读量769 收藏 1
点赞数
文章标签： 学习 机器学习 python pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45445505/article/details/129784597
版权
自编码器是一种无监督学习方法，包含编码器和解码器两部分，用于学习数据的隐层特征并重构原始输入。通过编码器将输入数据映射到低维隐层空间，然后用解码器从隐层空间重构数据。模型通过非线性函数如Sigmoid、ReLU或Tanh进行变换，并使用随机梯度下降优化参数，以最小化重构误差。然而，AE不能生成新数据，仅能重构已有数据。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

自编码器（AutoEncoder，AE）

结构图

image-20230326203307091

原理

  1. AE结构包含两部分：编码器Encoder和解码器Decoder
  2. 原始数据X通过编码器，得到隐层变量Z，Z包含了原始数据X的一些特征
    1. 编码部分将原始数据X从数据空间Rn映射到隐层变量Z所在的隐层空间Rd
  3. 隐层变量Z，通过解码器，得到输出变量X’，即原始数据X的重构
    1. 解码部分将隐层变量Z从隐层空间Rd映射到输出变量X’所在的空间，即原始数据X所在的数据空间Rn

功能

  1. AE可以学习得到原始数据的隐层特征
    1. 如人脸可由如下特征表示：眼睛大小，鼻子高低，嘴唇厚度，胡子长度…
    2. 编码部分任务
  2. AE可以通过学习到的隐层特征，重构原始数据
    1. 如通过人脸的特征，重构得到该张人脸
    2. 解码部分任务

算法实现

  1. 原始数据到隐层特征

h = E n c o d e ( x ) = f e ( W e ⋅ x + b e ) h=Encode\left( x \right) =f_e\left( W_e\cdot x+b_e \right) h=Encode(x)=fe​(We​⋅x+be​)

  1. 隐层特征到重构输出

x ~ = D e c o d e ( x ) = f d ( W d ⋅ h + b d ) \tilde{x}=Decode\left( x \right) =f_d\left( W_d\cdot h+b_d \right) x~=Decode(x)=fd​(Wd​⋅h+bd​)

公式中的 f_e 和 f_d 函数是常用的非线性函数，如Sigmoid函数、ReLU函数、Tanh函数
  1. 整个模型需要得到最优参数组：

θ ( W e , b e , W d , b d ) \theta \left( W_e, b_e, W_d, b_d \right) θ(We​,be​,Wd​,bd​)

  1. 随机梯度下降算法寻找最优参数组

θ k + 1 ( W e , b e , W d , b d ) = θ k ( W e , b e , W d , b d ) − ∂ J ∂ θ J = 1 2 N ∑ i = 1 N ∥ x ~ i − x i ∥ 2 \theta _{k+1}\left( W_e, b_e, W_d, b_d \right) =\theta _k\left( W_e, b_e, W_d, b_d \right) -\frac{\partial J}{\partial \theta} \\ J=\frac{1}{2N}\sum_{i=1}^N{\left\| \tilde{x}_i-x_i \right\| ^2} θk+1​(We​,be​,Wd​,bd​)=θk​(We​,be​,Wd​,bd​)−∂θ∂J​J=2N1​i=1∑N​∥x~i​−xi​∥2

代码实现

待补充。。。

模型不足

  1. AE模型只能重构已有数据，不能生成数据
  2. 若通过人为给定隐层特征Z，则大概率不能重构目标输出，因为人为给定的Z不满足原始数据学习到的隐层变量Z所遵从的分布
机器学习笔记 - 自动编码器autoencoder
学以致用 知行合一
03-27 9877
自编码器是开发无监督学习模型的主要方式之一。但什么是自动编码器？ 简而言之，自动编码器通过接收数据、压缩和编码数据，然后从编码表示中重构数据来进行操作。对模型进行训练，直到损失最小化并且尽可能接近地再现数据。通过这个过程，自动编码器可以学习数据的重要特征。 自动编码器是由多个层组成的神经网络。自动编码器的定义方面是输入层包含与输出层一样多的信息。输入层和输出层具有完全相同数量的单元的原因是自动编码器旨在复制输入数据。然后分析数据并以无监督方式重建数据后输出数据副本。
无监督学习：自编码器(AutoEncoder)
进一步有进一步的欢喜~
01-05 1433
自编码器作为一种强大的特征学习方法，已经经历了从简单到复杂的发展历程。本文综述了多种类型的自编码器及其演进过程，强调了它们在数据降维、图像处理、噪声去除及生成模型等方面的关键作用。随着技术的进步，自编码器将继续在人工智能领域扮演重要角色，推动着机器学习算法向着更加智能的方向前进。
【机器学习】李宏毅——AE自编码器(Auto-encoder)
FavoriteStar的博客
09-18 4174
本文详细地讲解了什么是AE自编码器(Auto-encoder)，对其内部的原理和各种应用场景进行了叙述。
AE 自动编码器
qq_44457948的博客
04-27 2988
自编码器（Autoencoder，AE）
qq_1532145264的博客
09-09 1293
自编码器（Autoencoder，AE）、去噪自编码器（Denoising Autoencoder，DAE）、变分自编码器（Variational Autoencoder，VAE）
自编码器（AE）
满腹的小不甘
11-11 3317
自编码器可以理解为一个试图去还原其原始输入的系统，如下图所示，虚线蓝色框内就是一个自编码器模型，它由编码器（Encoder）和解码器（Decoder）两部分组成，本质上都是对输入信号做某种变换。 对于自编码器，我们往往并不关系输出是啥（反正只是复现输入），我们真正关心的是中间层的编码，或者说是从输入到编码的映射。可以这么想，在我们强迫编码y和输入x不同的情况下，系统还能够去复原原始信号x，那么说明编码y已经承载了原始数据的所有信息，但以一种不同的形式！这就是特征提取啊，而且是自动学出来的！实际上，自动
人工智能/机器学习基础知识——自编码器（AutoEncoder，AE）
WindGrin_的博客
04-14 1050
人工智能/机器学习基础知识——自编码器（AutoEncoder，AE）
【DL笔记】AutoEncoder详解（一）
热门推荐
roguesir的博客
08-22 1万+
前言 AutoEncoder是深度学习的另外一个重要内容，并且非常有意思，神经网络通过大量数据集，进行end-to-end的训练，不断提高其准确率，而AutoEncoder通过设计encode和decode过程使输入和输出越来越接近，是一种无监督学习过程。 AutoEncoder Introduction AutoEncoder包括两个过程：encode和decode，输入图片通过enco...
LSTM-Autoencoder:Tensorflow中的LSTM自动编码器和LSTM预测器
05-16
使用LSTM自动编码器重建数据：Autoencoder.ipynb 输入重构和未来预测：AE_with_Predictor 结果 从复合模型 数据序列（从左到右）：0,1，...，t-1，t 轮换数据 在LSTM模型中输入序列数据后，重建数据并预测旋转多少...
AE（自动编码器）与VAE（变分自动编码器）的区别和联系？
02-28
自动编码器（Autoencoder，简称AE）是一种无监督学习方法，通常用于数据压缩、特征提取以及生成模型等领域。AE的核心思想是通过训练一个神经网络来学习输入数据的有效表示形式。它由两部分组成：编码器（Encoder）和...
tensorflow自编码器AE网络.zip|tensorflow自编码器AE网络.zip
10-08
通过TensorFlow实现了在数据集fashionMNIST下自编码器的网络架构实现，实现了图片的重构。实例中有代码有注释有图片，超级详细，都看得懂。
AE中经常使用的三个AVI编码器
08-31
三个ae里经常使用的avi编码可用于不同avi在ae里的编码
【有啥问啥】自编码器（Autoencoder, AE）：深入理解与应用
Chauvin的博客
08-24 4320
自编码器（Autoencoder, AE）是一种通过无监督学习方式来学习数据有效表示的神经网络模型。其核心思想是通过编码器将输入数据压缩成低维潜在表示，然后通过解码器从该表示中重构出原始输入数据。自编码器在数据降维、特征提取、数据去噪、异常检测以及生成模型等领域均展现出卓越的性能。本文将深入探讨自编码器的原理、结构、变体、应用场景、实践案例和面临的挑战与机遇。
生成模型---自编码器（Auto Encoder，AE）
qq_43538018的博客
12-24 1200
自编码器（Autoencoder，AE）是一种，通常用于等任务。它由两部分组成：编码器（Encoder）和解码器（Decoder），并通过重建原始输入来训练网络。自编码器本质上是一种通过学习数据的来原始数据的模型。
【人工智能概论】 自编码器（Auto-Encoder , AE）
qq_44928822的博客
01-21 5273
自编码器（Auto-Encoder , AE）
【深度学习】自编码器（Autoencoder, AE）
最新发布
dundunmm的博客
01-15 1187
自编码器（Autoencoder, AE）是一种无监督学习模型，主要用于特征提取、数据降维、去噪和生成模型等任务。它的核心思想是通过将输入压缩到一个低维的潜在空间表示（编码过程），然后再从这个潜在表示重构输入（解码过程），从而使得模型能够学习数据的内在结构。
自动编码器（Autoencoders）
bunny___的博客
07-11 1042
神经网络以各种形状和大小存在，并且通常以其输入和输出数据类型为特征。例如，图像分类器是用卷积神经网络构建的。它们将图像作为输入，并输出类的概率分布。 自动编码器是一类输入与输出相同的神经网络。它们的工作原理是将输入压缩到潜在空间表示中，然后从该表示中重建输出。
自编码器AE编码四维数据
qq_33596242的博客
08-02 305
import numpy as np import tensorflow as tf data = np.array([[[[-0.94644142, 0.83340192, 0.66930326], [-2.24232114, 0.93636605, -1.79758255]], [[ 0.43525354 , 0.04762126 , 0.70189878],...
深度学习序列——自编码器(AE)模型
hit1524468的专栏
05-07 4463
1. 模型简介自编码器是无监督学习的重要的学习方法，因为，该模型实现神经网络学习恒等映射函数h，即 x = h(x）2. 模型实现# Auto-Encoder # # Author: HSW # Date: 2018-05-06 # import tensorflow as tf import numpy as np def axvier_init(fan_in, fan_out,...
简单的去噪--自编码器AE系列
12-28
### 自编码器AE系列中的简单去噪应用 自编码器（Autoencoder, AE）是一种无监督学习模型，主要用于降维、特征提取以及数据重建。对于简单的去噪任务，可以通过构建一个变分自编码器（Variational Autoencoder, VAE），其结构能够有效地去除输入信号中的噪声。 #### 构建简单去噪自编码器 为了实现简单的去噪功能，可以设计如下架构： 1. **编码部分**：接收含噪图像作为输入，并将其压缩成低维度表示； 2. **解码部分**：尝试从未被污染的数据版本重构原始干净图像； 通过这种方式训练网络，在测试阶段仅需提供有噪音的样本给该系统即可获得清理后的输出[^1]。 下面是一个基于Keras框架下的Python代码片段来展示如何创建并训练这样一个简单的去噪自动编码器: ```python import numpy as np from keras.layers import Input, Dense from keras.models import Model # 假设我们有一个大小为784(28*28像素)的手写数字图片集mnist, # 加载MNIST数据集... (x_train, _), (x_test, _) = ... x_train = x_train.astype('float32') / 255. x_test = x_test.astype('float32') / 255. # 添加随机高斯白噪声到训练集中模拟实际场景下可能遇到的情况 noise_factor = 0.5 x_train_noisy = x_train + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=x_train.shape) x_test_noisy = x_test + noise_factor * np.random.normal(loc=0.0, scale=1.0, size=x_test.shape) input_img = Input(shape=(784,)) encoded = Dense(128, activation='relu')(input_img) encoded = Dense(64, activation='relu')(encoded) encoded = Dense(32, activation='relu')(encoded) decoded = Dense(64, activation='relu')(encoded) decoded = Dense(128, activation='relu')(decoded) decoded = Dense(784, activation='sigmoid')(decoded) autoencoder = Model(input_img, decoded) autoencoder.compile(optimizer='adam', loss='binary_crossentropy') autoencoder.fit(x_train_noisy, x_train, epochs=50, batch_size=256, shuffle=True, validation_data=(x_test_noisy, x_test)) ``` 此段代码展示了如何去定义一个三层全连接层组成的自编码器来进行基本的去噪操作。当然也可以根据具体应用场景调整层数和其他超参数设置以达到更好的效果[^2]。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值