CNN发展历程:VGG--》NIN--》inception--》ResNet
参考:卷积神经网络CNN经典模型整理1
参考:卷积神经网络CNN经典模型整理2
一、NIN是什么
GoogLeNet的Inception模型提出之时,其实idea是来自NIN,NIN就是Network in Network,NIN有两个特性
- MLP代替GLM
- Global Average Pooling
转载:Network In Network 网络解析及论文解析
MLP代替GLM
GLM就是广义线性模型。那么MLP是指,在做卷积操作的时候,把线性操作变为多层感知机。
左图为普通的卷积,右图为mlpconv,Mlpconv相当于在正常的卷积层后面,再添加一个1×1的卷积层。
转载:Network in Network中的1*1卷积核