自编码器（Auto-encoder）的概念和应用

最新推荐文章于 2024-06-26 11:08:00 发布
最新推荐文章于 2024-06-26 11:08:00 发布
阅读量2.9k 收藏 22
点赞数 6
分类专栏： 计算机视觉 李宏毅机器学习课程 文章标签： 机器学习 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44579633/article/details/124618636
版权

文章目录

1. 基本概念

Auto-encoder包含一个encoder和一个decoder，encoder将原始图片转化为一个低维度的vector，并且期望vector能够尽可能地保留输入图片的特征，这样decoder可以将Vector还原为原始图像，和输入图像越接近越好。

在这里插入图片描述
为什么vector可以还原为原始图像呢？假设原始图像为 3 × 3 3\times3 3×3大小，在有些情况下，输入图像可能只包含下图所示的两种类型，那么就可以用2维的向量表示原始图像。这样一来，就可以降低维度，减少运算量。

在这里插入图片描述

2. 应用

2.1 de-noising auto-encoder

de-noising auto-encoder为auto-encoder的一种用法，利用auto-encoder去除噪声。

在这里插入图片描述

2.2 feature disentangle

因为auto-encoder得到的向量具有原始输入信号的一些信息（图像的纹理、颜色；音频的内容、银色等），feature disentangle利用auto-encoder的向量中的这些信息提取出来，用于下游任务。

在这里插入图片描述
例如，如果想要做变声器，就可以将提取的向量中代表音色的维度替换，代表内容的维度保留。

在这里插入图片描述

2.3 discrete representation

discrete representation希望通过对vector进行一些限制，使得其可以解决特定的任务。例如生成的vector是one-hot向量，那么就可以使得其传递的信息是分类的结果。

在这里插入图片描述

2.4 text as representation

text as representation将原本的输入和输出从向量变成文字，encoder和decoder用seq2se1代替，通过这样的方式得到摘要。

但是由于机器生成的“摘要”不满足正常的文本（无法阅读），因此需要添加额外的discriminator来进行鉴别。生成的摘要要尽量骗过discriminator。
在这里插入图片描述

2.5 Tree as representation

在这里插入图片描述

2.6 generator

Auto-encoder的decoder部分可以用作generator
在这里插入图片描述

2.7 compression

Auto-encoder还可以用作压缩。
在这里插入图片描述

2.8 anomaly detection

auto-encoder还可以用作异常检测，如果输入和输出相差较大，则认为输入是异常的，是训练的时候没有见过的图片。

在这里插入图片描述

课程链接

蓝鲸鱼BlueWhale
关注
  • 6
    点赞
  • 踩
  • 22
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
自编码器（Autoencoder）应用场景
a871923942的博客
06-04 1464
示例：假设我们有一个包含手写数字的高维数据集（如 MNIST 数据集），我们可以使用自编码器将每个数字图像（28x28 像素）压缩成一个较低维度的隐向量（如 2D 或 3D），然后在这个低维空间中可视化数据集的结构。4. **去噪**：去噪自编码器（Denoising Autoencoder）是自编码器的一种变体，用于从带噪声的数据中学习去噪过程。示例：假设我们有一个包含人脸图像的数据集，我们可以使用变分自编码器（VAE）学习数据集的潜在表示。随着研究的深入，自编码器及其变体在各种领域的应用将不断拓展。
自编码器的理解与应用
weixin_42228166的博客
04-28 7461
什么是自编码器（AutoEncoder）？ 自编码器可以用来干什么？ 自编码器有什么优缺点？ 具体有哪些自编码器？
[深度学习] 自编码器Autoencoder
最新发布
藓类少女的博客
06-26 1033
自编码器（Autoencoder）是一种无监督学习算法，主要用于数据的降维、特征提取和数据重建。自编码器由两个主要部分组成：编码器（Encoder）和解码器（Decoder）。其基本思想是将输入数据映射到一个低维的潜在空间，然后再从该潜在空间重建出原始数据。
浅析自动编码器（自编码器 Autoencoder）
大脸猫的博客
04-22 9451
引言     当你在看论文的时候，经常会遇到编码器、解码器、自编码器（Autoencoder）这些字眼，它们到底是干什么的呢？其主要作用又是什么呢？那么本篇主要带大家了解自编码器（Autoencoder）。 自编码器（Autoencoder）介绍 自编码简单模型介绍     暂且不谈神经网络、深度学习等，仅仅是自编码器的话，其原理其实很简单。自编码器可以理解为一个试图去还原其原始输入的系统。自编码器模型如下图所示。     从上图可以看出，自编码器模型主要由编码器（Encoder）和解码器
自编码器 AutoEncoder
JasonH2021的博客
07-08 4041
本文简单介绍了深度学习的自编码器的基本概念，优缺点，应用场景，建模过程，实现的类库方法和代码案例等。
【DL笔记】AutoEncoder详解（一）
roguesir的博客
08-22 1万+
前言 AutoEncoder是深度学习的另外一个重要内容，并且非常有意思，神经网络通过大量数据集，进行end-to-end的训练，不断提高其准确率，而AutoEncoder通过设计encode和decode过程使输入和输出越来越接近，是一种无监督学习过程。 AutoEncoder Introduction AutoEncoder包括两个过程：encode和decode，输入图片通过enco...
人工智能-自编码器-autoencoder-生成MNIST数据-variational-autoencoder-master
03-16
这涉及到深度学习、自编码器以及生成模型等重要概念。 首先，自编码器（Autoencoder）是人工智能和深度学习领域的一种无监督学习模型，主要用于数据降维和特征学习。它由两部分组成：编码器和解码器。编码器将输入...
深度学习与PyTorch入门实战教程-自编码器Auto-Encoders.rar
04-07
自编码器Auto-Encoders"章节中，你将详细了解到如何在PyTorch中构建、训练和应用自编码器。从基础概念到实际操作，每个步骤都将清晰呈现，帮助你快速掌握自编码器的使用。无论你是深度学习的新手还是希望扩展PyTorch...
A Hybrid Algorithm of Extreme Learning Machine and Sparse Auto-encoder
02-06
该混合算法被命名为堆叠稀疏自编码器-极限学习机（Stacked Sparse Auto-encoder-Extreme Learning Machine,简称SSAE-ELM）和堆叠稀疏自编码器-核极限学习机（Stacked Sparse Auto-encoder-Kernel Extreme Learning ...
vae.rar_VAE_VAE生成mnist_auto encoder_变分_变分自编码
09-24
它由两部分组成：编码器（Encoder）和解码器（Decoder）。编码器将输入数据映射到一个低维隐藏空间，称为潜在向量；解码器则尝试从这个潜在向量重构原始输入。通过训练，自编码器可以学习到输入数据的关键特征，并在...
tensorflow变分自编码
12-23
传统的自编码器通过学习数据的压缩表示（即编码过程）来重构输入数据，而变分自编码则更进一步，不仅关注个体样本的重构，更侧重于学习样本数据的潜在分布。 **变分自编码**的核心思想在于通过对输入数据进行编码来...
AutoEncoder用于推荐系统pytorch实现
04-26
用pytorch实现了AutoRec论文中的算法，将AutoEncoder用户推荐系统中的打分矩阵补全。数据集是ml100k，可以在movielens的网站上下载。
AutoenCODE:AutoenCODE是一种深度学习基础架构，可将源代码片段编码为矢量表示形式，可用于学习相似性-Source code learning
03-25
自动编码 AutoenCODE是一种深度学习基础架构，可将源代码片段编码为矢量表示形式，可用于学习相似性。 该存储库包含有关如何学习给定文本语料库（源代码或任何其他文本语料库）的句子级嵌入的代码，数据和说明。 然后，可以将学习到的嵌入（即，连续值向量）用于识别语料库中句子之间的相似性。 AutoenCODE使用神经网络语言模型（ [3]）和预言神经网络（ [4]），该神经网络语言模型预先训练了语料库中的词嵌入，并递归地结合了嵌入以学习句子级嵌入。 AutoenCODE由和构建，并在以下研究项目中使用和改编。 如果您出于研究目的使用AutoenCODE，请引用： [1]用于代码克隆检测的深度学习代码片段[，] [2]从源代码的不同表示形式进行深度学习的相似性[，] 该存储库包含的原始源代码[3]和的分叉/修改实现[4]。 请参考参考书目部分以适当引用以下论文： [3]向量空间
自编码器(Auto-Encoder)
冲出仁川，走出马德里，故事还会再继续
07-18 1304
FashionMNIST是一个定位在比MNIST图片识别问题稍复杂的数据集，它的设定与MNIST几乎完全一样，包含了10类不同类型的衣服、鞋子、包等灰度图片，图片大小为28×28，共70000张图片，其中60000张用于训练集，10000张用于测试集，如图所示，每行是一种类别图片。，并基于隐藏向量h利用解码器重建图片，自编码器模型如图所示，编码器由3层全连接层网络组成，输出节点数分别为256、128、20，解码器同样由3层全连接网络组成，输出节点数分别为128、256、784。......
autoEncoder
SarKerson的博客
11-28 1240
autoEncoder Deep Learning最简单的一种方法是利用人工神经网络的特点，人工神经网络（ANN）本身就是具有层次结构的系统，如果给定一个神经网络，我们假设其输出与输入是相同的，然后训练调整其参数，得到每一层中的权重。自然地，我们就得到了输入I的几种不同表示（每一层代表一种表示），这些表示就是特征。自动编码器就是一种尽可能复现输入信号的神经网络。为了实现这种复现，自动编码器就必须
自编码器(Auto-encoder) (下）它的应用
无偿、有效的解释和解决AI 4 Science中的问题和难点
12-17 7006
Feature Disentangle 以及Voice Conversion（利用Feature Disentangle实现无监督） 你可以把一段声音丢到 Encoder 里面，变成向量 再丢回 Decoder，变回原来的声音，代表这个向量包含了语音里面所有重要的资讯。包括这句话的内容是什么，就是 Encoder 的资讯，还有这句话是谁说的，就是 Speaker 语者的资讯 过去是需要监督学习，A与B必须说同样的句子，然后再不断的训练，但是对于大规模的数据集是不合适的，而今天有了 Featur.
自动编码器（Autoencoder）
热门推荐
Joe的博客
09-20 5万+
autoencoder是一种无监督的学习算法。在深度学习中，autoencoder用于在训练阶段开始前，确定权重矩阵WW的初始值。神经网络中的权重矩阵WW可看作是对输入的数据进行特征转换，即先将数据编码为另一种形式，然后在此基础上进行一系列学习。然而，在对权重初始化时，我们并不知道初始的权重值在训练时会起到怎样的作用，也不知道在训练过程中权重会怎样的变化。因此一种较好的思
自编码器（Autoencoder）在无监督学习和降维中的应用
网络技术联盟站
07-13 1306
自编码器（Autoencoder）是一种无监督学习算法，广泛应用于数据的表示学习和降维。自编码器通过将输入数据压缩为低维编码，然后再将其重新构建为与原始数据尽可能相似的输出。本文将详细探讨自编码器在无监督学习和降维中的应用。
自编码器的发展历程与应用
禅与计算机程序设计艺术
12-31 1197
1.背景介绍 自编码器(Autoencoders)是一种深度学习算法，它通过学习压缩输入数据的低维表示，从而实现数据的编码和解码。自编码器被广泛应用于数据压缩、特征学习、生成对抗网络(GAN)等领域。在本文中，我们将详细介绍自编码器的发展历程、核心概念、算法原理、实例代码和未来趋势。 1.1 自编码器的发展历程 自编码器的发展可以分为以下几个阶段： 最初的自编码器(Early Autoe...
深度学习中的稀疏自编码器与DNN应用
"本文主要探讨了在人工智能领域，特别是深度学习中的DNN（深度神经网络）及其相关概念，包括误差目标函数、传播项以及稀疏自编码器的应用。" 在原BP（Backpropagation）网络的误差目标函数及传播项是深度学习中的一...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值