自编码器autoencoder总结思考

最新推荐文章于 2024-09-23 22:44:18 发布
最新推荐文章于 2024-09-23 22:44:18 发布
阅读量1.4k 收藏 6
点赞数 2
分类专栏： # deepLearning-学习 文章标签： 自编码器 autoencoder 输入输出一致 去噪 降维
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36187544/article/details/96427821
版权

一句话解释自编码器：输入与输出一致，通过神经网络实现，实现数据去噪或为可视化而降维

学习：深度学习之自编码器AutoEncoder

总结1：自监督而非无监督，因为输入同输出

总结2：数据有损，输出退化

总结3：自编码器较PCA更加灵活，输出了更有意思的投影.因为它一种网络，所以网络深度宽度可以随意调节，就能得到不同风格效果

思考1：这种实现方式是随机的，所以在去噪方法中是需要在encoder中加上噪声，比如高斯噪声等，但是这样就导致了后续去噪时只能去掉指定的噪声。没有通用性。

思考2：基于这样的弊端，举例一种实际情况，有一些图片因为曝光、色温干扰等情况如何处理，因为实际情况是多变的，不是简单高斯噪声去噪就能处理的。当然色温干扰可以通过白平衡等方式，也有自动曝光算法，但在某些情况运行效果较差，所以如此看来↓

总结：是一种经典算法，但是可能在实际应用中有待商榷。甚至不如简单的输入为原始图片，输出为人工处理后的图片，进行网络迭代效果好（但这样人工代价略大）

执契
关注
专栏目录
一篇文章带你搞定深度学习中的 AutoEncoder（自编码器）
南淮北安的博客
11-04 4337
文章目录一、什么是 AutoEncoder？二、AutoEncoder 的结构三、AutoEncoder 的作用 一、什么是 AutoEncoder？ 如图所示，AutoEncoder框架包含两大模块：编码过程和解码过程。 通过encoder(g) 将输入样本 x 映射到特征空间 z，即编码过程； 然后再通过 decoder(f) 将抽象特征z映射回原始空间得到重构样本x’，即解码过程。 优化目...
自动编码器总结
不平凡的博客
12-19 575
Auto-Encoder总结 让 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt from tensorflow.examples.tutorials.mnist import input_data import os data_dir=r'C:\Users\aaa\Desktop\MINIS...
生成模型之一——Auto Encoder
最新发布
weixin_45582490的博客
09-23 1123
生成模型是机器学习领域的重要组成部分，通过学习输入数据的分布，它们能够生成与训练数据相似的新数据。在本篇文章中，我们将深入探讨自动编码器的原理、数学公式、模型结构，并展示其在图像和时序数据生成中的应用。通过本篇文章的介绍，希望大家能够对自动编码器有一个初步的了解，后续文章中，我们将进一步探讨其他生成模型的原理与应用。
深度学习之autoencoder
热门推荐
changyuanchn的专栏
11-12 6万+
1）autoencoder autoencoder是一种无监督的学习算法，他利用反向传播算法，让目标值等于输入值。如图所示： Autoencoder尝试学习一个 的函数。也就是说autoencoder尝试逼近一个恒等函数，使得输出 接近于输入 。当然为了使这个函数有意义，需要加入一些限制条件（比如说限制隐藏神经元的数目），就可以发现一些有意义的结构。Autoencoder可
autoencode-decode 点云阅读论文 2D图形补全得到3D图像
laixiangwei的博客
04-16 311
开头 使用深度神经网络生成3D模型变的越来越普遍了，但是目前大部分研究基本上是基于体素或图像采集进行学习。这种方式存在很多弊端，比如在转换的过程中掩盖了几何变换下的**自然不变性**。 该论文处理的问题是：从一张图片进行3D重构，最后以点云坐标的形式输出。因为非传统的输出格式和固有的ground-truth的模糊性，我们通过设计架构、定义损失函数和**学习范式**来完成此过程。 Introduction 我们尝试使用目前深度学习领域取得的成功，在3D领域进行运用。但是3D几何的表达（比如点云、2D网.
算法进阶(二)之自动编码器改进技巧
junjunzai123的博客
06-28 4644
自动编码器是一种特定得深度学习模型, 那么我们想要改进有哪些方法呢? 首先我们可以在深度上面考虑: 神经网络为什么要“深”？ 因为深度达到一定程度之后, 可以提升泛化能力, 所以神经网络要深. 其次我们可以在稀疏性上考虑:压缩特征一定要少于输入特征吗？ 自动编码器隐层的神经元数量少于输入层数量，称为欠完备. 而自动编码器隐层的神经元数量大于输入层数量，称为过完备. 欠完备神经元少, 这样就比较稠密, 而过完备神经元多, 这样就比较稀疏. 所以推荐使用逐层减少的架构（欠完备），然后加入稀疏...
Auto-encoder（自编码器）的原理及最新的技术应用（李宏毅视频课整理和总结）_mi-autoencoder
2301_82242779的博客
04-28 787
2(x−x^)2。将PCA类比为network的话，就可以分为input layer，hidden layer和output layer，hidden layer又称Bottleneck（瓶颈） layer。因为hidden layer的通常维数比output和input要小很多，所以整体看来hidden layer形如瓶颈一般。Hidden layer 的输出就可以等同于Auto-encoder的code vector。
自动编码器python_PyTorch 学习笔记（九）：自动编码器（AutoEncoder）
weixin_39752157的博客
12-08 1209
一. 生成模型生成模型(Generative Model)这一概念属于概率统计与机器学习，是指一系列用于随机生成可观测预测数据得模型。简而言之，就是 “生成” 的样本和 “真实” 的样本尽可能地相似。生成模型的两个主要功能就是学习一个概率分布 和生成数据，这是非常重要的，不仅可以用在无监督学习中，还可以用在监督学习中。无监督学习的发展一直比较缓慢，生成模型希望能够让无监督学习取得比较大的进展。二....
Auto-encoder（自编码器）的原理及最新的技术应用（李宏毅视频课整理和总结）_mi-autoencoder(1)
2301_82244343的博客
04-28 832
将PCA类比为network的话，就可以分为input layer，hidden layer和output layer，hidden layer又称Bottleneck（瓶颈） layer。因为hidden layer的通常维数比output和input要小很多，所以整体看来hidden layer形如瓶颈一般。Hidden layer 的输出就可以等同于Auto-encoder的code vector。
深度学习—自编码器
DIPDWC的博客
05-24 2494
自编码器1. 自编码器模型2. 自编码器思想3. 结尾参考文献 1. 自编码器模型 这一讲我们将讲解2006年Geoffrey Hintton在Science上发表的文章Reducing the dimensionality of data with neural networks自编码器（Auto-Encoder）模型，基于这个模型，它部分地解决了神经网络参数初始化的问题。 2. 自编码器思想 自编码器采用的是分层初始化的思想。 例如我们想要训练图中NNN层的神经网络，步骤如下： 步骤一：先训练图中下
【人工智能概论】 自编码器（Auto-Encoder , AE）
qq_44928822的博客
01-21 4962
自编码器（Auto-Encoder , AE）
Autoencoder 详解
omnispace的博客
10-27 1万+
本文介绍了AutoEncoder。包括如下内容： AutoEncoder的定义和推导。Sparse AutoEncoder由来和介绍。做Deep Learning所用的unsupervised learning的方法之间的比较。 1. 数学基础 1.1 Orthogonal Matrix 　　满足如下定义的是Orthogonal Matrix AAT=I,AA
【NIPS 2016图神经网络论文解读】Variational Graph Auto-Encoders (VGAE) 基于VAE的图变分自编码器
捡起一束光的博客
12-25 5907
Thomas N. Kipf大佬不仅是这篇VGAE的作者，而且还是大名鼎鼎GCN模型的作者。 VGAE是GCN在Variational Graph Auto-Encoders (VAE)的应用。
AE（AutoEncoder）相关论文内容整理
Alphy_XUJ的博客
12-25 3290
AE（auto encoder） 1. Sparse AE 稀疏自编码器 一般情况下，影藏层的结点数目少于输入层。 模型能够得到原始数据较好的低维表示的前提是输入数据中存在一定的潜在结构，比如存在相关性，这样稀疏自动编码可以学习得到类似于主成分分析（PCA）的低维表示。如果输入数据的每一个特性都是相互独立的，最后学习得到的低维表示效果比较差。用途：特征提取、降维。 1.1 稀疏的含义及损失函数 一般使得隐含层小于输入结点的个数，如果隐藏层的节点数大于输入结点的个数，只需要对其加入一定的稀疏限制就可以达到同
关于深度学习自编码器理解
zhcheng26的博客
05-05 1万+
深度学习的发展应该来说很有前途，目前来看随着GPU和大数据的发展，估计应用到工业上已经不远了，这样的话传统的检测分类和跟踪之类所需要的选取目标特征均可以被替代。好处主要体现在可以自动学习目标特征，并非手动标定，另一方面，体现在可以构建一个超完备空间，可以区分目标背景。其中主要的过程是在调参数。 目前的深度学习有三种架构：SDA，RBM,CNN.其中我们学习的是自编码器。 自编码训练遵循
神经网络中自编码器Autoencoder
不曾走远的博客
11-02 1万+
什么是自编码器（Autoencoder） 自动编码器是一种数据的压缩算法，其中数据的压缩和解压缩函数是数据相关的、有损的、从样本中自动学习的。在大部分提到自动编码器的场合，压缩和解压缩的函数是通过神经网络实现的。 压缩与解压 假设刚刚那个神经网络是这样, 对应上刚刚的图片, 可以看出图片其实是经过了压缩,再解压的这一道工序. 当压缩的时候, 原有的图片质量被缩减, 解压时用...
（pytorch进阶之路）Masked AutoEncoder论文及实现
qq_19841133的博客
08-06 3339
这一部分简单介绍一下什么是MAEResnet的一作和MAE的一作都是何恺明大佬，于Facebook AI Research (FAIR)研究MAE作者给的定义是基于部分被观测的量去预测整个原始图像的简单的自编码方法MAE属于自监督学习的一种，像自监督学习NLP领域中还有word embedding，transformer，bert摘要，第一部分是写作意图，第二部分是对模型或者算法的描述，第三部分写在某某任务上取得的效果写作意图：提出用于CV自监督学习模型模型细节：图片分成一个个patch，随机的遮住一些块，
各类自编码器的实现效果&性能对比
qq_37939213的博客
07-14 1695
ps：代码基于这篇博客，很好用：https://blog.csdn.net/qq_19707521/article/details/787409861：卷积自编码器      2：深度自编码器（1、tanh激活函数；2、sigmoid激活函数）3：单层自编码器      4：稀疏自编码器        5：用于去噪的卷积自编码器...
自编码器与堆叠自编码器简述
MemRay
05-30 3万+
作者：科研君 链接：https://www.zhihu.com/question/41490383/answer/103006793 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 本文是对知乎问题为什么稀疏自编码器很少见到多层的？的回答，同时借此介绍下自编码器及其相关的一些知识。 目录 自编码器自编码器简介自编码器与神经网络堆叠自编码
自动编码器autoencoder
03-30
自动编码器（autoencoder）是一种神经网络模型，用于将输入数据压缩成潜在表示，并通过解压缩将其还原回原始数据。它由两个部分组成：编码器和解码器。 编码器将原始数据输入神经网络，并将其压缩成潜在表示。该...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值