全连接层

fc全连接层的作用、卷积层的作用、pooling层、激活函数的作用

fc：1.起到分类器的作用。对前层的特征进行一个加权和，（卷积层是将数据输入映射到隐层特征空间）将特征空间通过线性变换映射到样本标记空间（也就是label）

　　2.1*1卷积等价于fc；跟原feature map一样大小的卷积也等价于fc，也就是输入是一个5*3*3的feature map，用一个3x3x5的卷积去计算就是fc 

　　3.全连接层参数冗余，用global average pooling替代。在feature map每个channel上使用gap，然后得到channel个结果，分别对应相应的类别的confidence score，最后输入给softmax。这样做减少参数，防止过拟合。

　　4.迁移学习中，目标域和源域差别较大，不用fc的网络比用fc的网络效果差

　　5.卷积层本来就是全连接的一种简化形式:不全连接+参数共享，按照局部视野的启发，把局部之外的弱影响直接抹为零影响，同时还保留了空间位置信息。这样大大减少了参数并且使得训练变得可控。

　　6.fc利用的是上一层所有输入来计算，抛弃了卷积层不同位置的权值共享。对它来说，输入的不同位置出现同一个pattern是不等价的，因此不适合用于输出对于每个位置寻找类似pattern的taskÿ