卷积神经网络的理解

1. 神经网络主要分为5层，输入层，卷积层，池化层，全连接层和输出层

输入层，输入图像

卷积层，图片与卷积核的内积，得到一个特征图（局部图），

激活层，常用的卷积核有Sigmoid、relu等，有几个卷积核就有得到几个特征图

池化层，对得到的特征图进行特征提取，降低特征维度，常用的有最大池化和平均值池化

全连接层，将所有的特征图展平，得到的一维特征

输出层，将全连接层得到的一维特征经过计算后得到识别值的一个概率。输出层用的比较多的函数有Sigmoid函数（用于2分类的输出概率）和softmax函数（用于多分类的输出概率）。

其中sigmoid函数和softmax函数的区别：

• softmax函数

softmax 解决多分类问题，只有唯一正确答案的问题时，用softmax函数处理各个原始输出值，softmax函数得到的不同概率之间相互关联。softmax函数，又称归一化指数函数。

• sigmoid函数

sigmoid 有多个正确答案的问题时，用sigmoid函数分别处理各个原始输出值。sigmoid函数是一种logistic函数。

结论：（来自神经网络之输出层设计_神经网络输出层-CSDN博客）

• softmax函数是二分类函数sigmoid在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。
• sigmoid函数可以用来解决多标签问题，softmax函数用来解决单标签问题。
• 对于某个分类场景，当softmax函数能用时，sigmoid函数一定可以用。