神经网络的深度、宽度和分辨率

转载

深度和宽度是深度神经网络的两个基本维度，分辨率不仅取决于网络，也与输入图片的尺寸有关。

对于深度和宽度，以及他们对网络性能的影响，这篇博客有介绍：

深度学习网络的宽度和深度怎么理解，增加宽度和深度对网络模型有什么影响？

简单总结就是：
深度——神经网络的层数
更深的网络，有更好的非线性表达能力，可以学习更复杂的变换，从而可以拟合更加复杂的特征，更深的网络可以更简单地学习复杂特征。
网络加深会带来梯度不稳定、网络退化的问题，过深的网络会使浅层学习能力下降。深度到了一定程度，性能就不会提升了，还有可能会下降。

宽度——每层的通道数
足够的宽度可以保证每一层都学到丰富的特征，比如不同方向，不同频率的纹理特征。宽度太窄，特征提取不充分，学习不到足够信息，模型性能受限。
宽度贡献了网络大量计算量，太宽的网络会提取过多重复特征，加大模型计算负担。
提升网络性能可以先从宽度入手，提高每一层的通道的利用率、用其他通道的信息补充较窄的层，找到宽度的下限，用尽量小的计算量得到更好的性能。

分辨率——是指网络中特征图的分辨率
对于网络的分辨率，这篇文章提出了一个高分辨率网络，用来替代视觉识别问题中对空间精度不够敏感的分类网络：
CVPR 2019 | 告别低分辨率网络，微软提出高分辨率深度神经网络HRNet

参考链接：https://blog.csdn.net/qq_42178122/article/details/116641874