浅层网络:一般感受野较小,能够利用更多的细粒度特征信息,而且此时特征图每个像素点对应的感受野重叠区域还很小,早就保证了网络能捕获更多细节。
深层网络:随着下采样或卷积次数增加,感受野逐渐增加,感受野之间的重叠区域也不断增加,此时的像素点代表的信息是一个区域的信息,获取的是这块区域或相邻区域之间的特征信息,相对不够细粒度。
一张图片,经过深层网络处理后图片就会模糊了,然而浅层网络处理则不会模糊。对于模糊图片,我们想看出来里面是什么,一般就是通过整体信息来推测,比如说:整体轮廓;然而对于高清图片,我可能只需要看图片某一部分就能知道是什么了。
上面这个图,我们也能看到:
- 第一层,提取低层次的简单特征(边缘特征)
- 第二层,将简单特征组合成复杂一点的特征(器官)
- 第三层,将第二层的特征组合起来
有些函数只有非常深层的神经网络能够学习,而一些浅层网络是无法学习的。