对于图像分类任务,相对于全连接的DNN,CNN模型的主要优点有哪些?
CNN相对于全连接的DNN(deep neural network)的优势包括一下几个方面:
第一,由于CNN的权重是高度复用的,CNN的权重参数比全连接的DNN少很多,这使得CNN模型的训练速度快而且还不易于发生过拟合的问题,并且使用相对更少的数据达到训练的目标。
第二,当CNN学会识别图像中的某些特定特征的时候,它可以在图片的任何位置检测到类似的特征。相反全连接的DNN模型学习到某种特征的时候,只有在特定的位置出现才能进行有效的识别。因为图像通常具有更复杂的特征而且经常出现目标区域相对位置、角度、方向变化的情况。所以,在图像处理任务CNN模型更好,具有位置鲁棒性,且可以使用更少的样本。
第三,全连接的DNN没有关于图像像素是如何组织的先验知识;它不知道附近的像素是否接近是否具有某些内在的联系;CNN框架不同,它嵌入了这种先验知识。图像的前面多层往往学习到的是图像中的线条、边框、颜色、纹理等基础结构信息、而后面多层网络将会通过特征图学到更多通过前面多层组合出来的高层具体特征,这在许多自然图像处理中非常有意义,这使得CNN模型在图像处理问题上明显领先于DNN模型。
参考:Hands-on-Machine-Learning-with-Scikit-Learn-Keras-and-TensorFlow
参考:CNN网络