- 博客(3)
- 收藏
- 关注
RSS订阅转载 残差收缩网络 Residual Shrinkage Networks
深度残差网络ResNet获得了2016年CVPR会议的最佳论文奖，目前在谷歌学术的引用量已经突破四万次。深度残差收缩网络是深度残差网络的一种改进版本，其实是深度残差网络、注意力机制和软阈值函数的集成。在一定程度上，深度残差收缩网络的工作原理，可以理解为：通过注意力机制注意到不重要的特征，通过软阈值函数将它们置为零；或者说，通过注意力机制注意到重要的特征，将它们保留下来，从而加强深度神经网络从含...
2020-03-21 15:51:36
674
转载 一种自适应参数化的ReLU激活函数
本文在综述一些常用激活函数和注意力机制理论的基础上，解读了一种“注意力机制下的新型激活函数”，即“自适应参数化修正线性单元”（Adaptively Parametric Rectifier Linear Unit，APReLU）。1.激活函数激活函数是目前人工神经网络的核心组成部分之一，其作用是进行人工神经网络的非线性化。我们首先回顾一些最为常见的激活函数，包括Sigmoid激活函数、Tanh...
2020-03-21 13:06:59
904
转载 基于深度残差收缩网络的故障诊断 Deep Residual Shrinkage Networks for Fault Diagnosis
深度残差收缩网络针对的是数据中含有噪声或冗余信息的情况，是深度残差网络的一种改进，将软阈值化引入深度残差网络的内部，通过消除冗余特征，增强高层特征的判别性。以下对部分论文原文进行了翻译，仅以学习为目的。【题目】Deep Residual Shrinkage Networks for Fault Diagnosis【翻译】基于深度残差收缩网络的故障诊断Abstract (摘要)Abstrac...
2020-03-21 12:49:51
15533
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人