- 博客(3)
- 收藏
- 关注
转载 残差收缩网络 Residual Shrinkage Networks
深度残差网络ResNet获得了2016年CVPR会议的最佳论文奖,目前在谷歌学术的引用量已经突破四万次。深度残差收缩网络是深度残差网络的一种改进版本,其实是深度残差网络、注意力机制和软阈值函数的集成。在一定程度上,深度残差收缩网络的工作原理,可以理解为:通过注意力机制注意到不重要的特征,通过软阈值函数将它们置为零;或者说,通过注意力机制注意到重要的特征,将它们保留下来,从而加强深度神经网络从含...
2020-03-21 15:51:36
674
转载 一种自适应参数化的ReLU激活函数
本文在综述一些常用激活函数和注意力机制理论的基础上,解读了一种“注意力机制下的新型激活函数”,即“自适应参数化修正线性单元”(Adaptively Parametric Rectifier Linear Unit,APReLU)。1.激活函数激活函数是目前人工神经网络的核心组成部分之一,其作用是进行人工神经网络的非线性化。我们首先回顾一些最为常见的激活函数,包括Sigmoid激活函数、Tanh...
2020-03-21 13:06:59
904
转载 基于深度残差收缩网络的故障诊断 Deep Residual Shrinkage Networks for Fault Diagnosis
深度残差收缩网络针对的是数据中含有噪声或冗余信息的情况,是深度残差网络的一种改进,将软阈值化引入深度残差网络的内部,通过消除冗余特征,增强高层特征的判别性。以下对部分论文原文进行了翻译,仅以学习为目的。【题目】Deep Residual Shrinkage Networks for Fault Diagnosis【翻译】基于深度残差收缩网络的故障诊断Abstract (摘要)Abstrac...
2020-03-21 12:49:51
15533
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人