- 博客(8)
- 资源 (1)
- 收藏
- 关注
RSS订阅转载 残差网络再升级之深度残差收缩网络（附Keras代码）
深度残差收缩网络事实上属于一种卷积神经网络，是深度残差网络（deep residual network, ResNet）的一个变种。它的主要思想是，在深度学习进行特征学习的时候，删除冗余信息是非常重要的；这是因为原始数据中往往存在着很多和当前任务无关的信息；软阈值化则是一种非常灵活的、删除冗余信息的方式。1.深度残差网络首先，从深度残差网络开始讲起。下图展示了深度残差网络的基本模块，包括一些非...
2019-12-30 10:29:21
3742
15
转载 深度残差收缩网络：(六)代码实现
深度残差收缩网络其实是一种通用的特征学习方法，是深度残差网络ResNet、注意力机制和软阈值化的集成，可以用于图像分类。本文采用TensorFlow 1.0和TFLearn 0.3.2，编写了图像分类的程序，采用的图像数据为CIFAR-10。CIFAR-10是一个非常常用的图像数据集，包含10个类别的图像。可以在这个网址找到具体介绍：https://www.cs.toronto.edu/~kriz...
2019-12-25 16:08:45
1498
4
转载 深度残差收缩网络：(五)实验验证
实验部分将所提出的两种深度残差收缩网络，即“通道之间共享阈值的深度残差收缩网络(Deep Residual Shrinkage Networks with Channel-shared Thresholds，简称DRSN-CS)”，和“逐通道不同阈值的深度残差收缩网络(Deep Residual Shrinkage Networks with Channel-wise Thresholds，简称D...
2019-12-19 20:41:20
586
1
转载 深度残差收缩网络：(四)注意力机制下的阈值设置
对于基于深度学习的分类算法，其关键不仅在于提取与标签相关的目标信息，剔除无关的信息也是非常重要的，所以要在深度神经网络中引入软阈值化。阈值的自动设置，是深度残差收缩网络的核心贡献。需要注意的是，软阈值化中的阈值，需要满足一定的条件。这篇文章中的阈值设置，事实上，是在注意力机制下进行的。下面分别介绍阈值需要满足的条件、注意力机制以及具体的阈值设置方法。(1) 阈值需要满足的条件在软阈值化中，阈值...
2019-12-19 20:32:36
865
4
转载 深度残差收缩网络：(三)网络结构
(1) 回顾一下深度残差网络的结构在下图中，(a)-©分别是三种残差模块，(d)是深度残差网络的整体示意图。BN指的是批标准化(Batch Normalization)，ReLU指的是整流线性单元激活函数(Rectifier Linear Unit)，Conv指的是卷积层(Convolutional layer)，Identity shortcut指的是跨层的恒等映射，RBU指的是残差模块(Re...
2019-12-19 20:18:32
904
转载 深度残差收缩网络：(二)整体思路
其实，这篇文章的摘要很好地总结了整体的思路。一共四句话，非常简明扼要。我们首先来翻译一下论文的摘要：第一句：This paper develops new deep learning methods, namely, deep residual shrinkage networks, to improve the feature learning ability from highly noi...
2019-12-19 20:12:29
490
转载 深度残差收缩网络：(一)背景知识
深度残差收缩网络（Deep Residual Shrinkage Network）是深度残差网络（Deep Residual Network, ResNet）的一种新型改进，发表在中科院1区期刊IEEE Transactions on Industrial Informatics上，面向的是数据含有噪声的情况。简单地讲，深度残差收缩网络就是，将软阈值化作为可训练的模块，嵌入到ResNet之中。接...
2019-12-19 20:02:35
1283
转载 【原文翻译】深度残差收缩网络 Deep Residual Shrinkage Networks for Fault Diagnosis
深度残差收缩网络是深度残差网络的一种改进，针对的是数据中含有噪声或冗余信息的情况，将软阈值化引入深度残差网络的内部，通过消除冗余特征，增强高层特征的判别性。以下对部分论文原文进行了翻译，仅以学习为目的。【题目】Deep Residual Shrinkage Networks for Fault Diagnosis【翻译】基于深度残差收缩网络的故障诊断Abstract (摘要)Abstrac...
2019-12-19 18:35:26
3038
基于深度残差收缩网络的故障诊断.pdf
2019-12-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人