![3b0a017ba9cfb3d9c00b125bd0cc4606.png](https://i-blog.csdnimg.cn/blog_migrate/6d112e84bf88824a48b5024af7e32eaa.jpeg)
深度残差收缩网络(Deep Residual Shrinkage Network)是深度残差学习(Deep Residual Network, ResNet)的一种改进,发表在IEEE Transactions on Industrial Informatics上,面向的是数据包含噪声的情况。
简单地讲,深度残差收缩网络就是,将软阈值化作为可训练的模块,嵌入到ResNet之中。接下来结合自己的理解,解读一下相关的背景知识。
(1)噪声的含义
如上所述,深度残差收缩网络面向的是数据包含噪声的情况。事实上,这里的“噪声”,可以有更宽泛的解释。“噪声”不仅可以指数据获取过程中所掺杂的噪声,而且可以指“与当前任务无关的信息”。
比如说,我们在训练一个猫狗分类器的时候,如果图像中存在老鼠,那么老鼠就可以理解为一种噪声。
![cc079feacc36f0bd38db3ca6e979677e.png](https://i-blog.csdnimg.cn/blog_migrate/5c213f957f8cc61424fe72733997af44.jpeg)
或者说