©PaperWeekly 原创 · 作者|赵明航
单位|哈尔滨工业大学(威海)讲师
研究方向|智能运维
本文解读了一种新的深度注意力算法,即深度残差收缩网络(Deep Residual Shrinkage Network)。
从功能上讲,深度残差收缩网络是一种面向强噪声或者高度冗余数据的特征学习方法。本文首先回顾了相关基础知识,然后介绍了深度残差收缩网络的动机和具体实现,希望对大家有所帮助。
论文标题:Deep Residual Shrinkage Networks for Fault Diagnosis
论文链接:https://www.paperweekly.site/papers/3397
代码链接:https://github.com/zhao62/Deep-Residual-Shrinkage-Networks
相关基础
深度残差收缩网络主要建立在三个部分的基础之上:深度残差网络、软阈值函数和注意力机制。
1.1 深度残差网络
深度残差网络无疑是近年来最成功的深度学习算法之一,在谷歌学术上的引用已经突破四万次。相较于普通的卷积神经网络,深度残差网络采用跨层恒等路径的方式,缓解了深层网络的训练难度。
深度残差网络的主干部分是由很