Network IN Network的理解

 

上面二图就是Network IN Network

具体我们可以来看第二张图的一个MLPconverlution，一个MLPconverlution块其实可以分为两步：一个正常的卷积，与一个1*1的卷积（或者说“选择性”的全连接网络）

第一个MLPconverlution是一个224*224*3的input，正常情况下，被96个11*11*3的卷积核（假设步长为N）卷积完之后是一个55*55*96的output。但是在MLPconverlution中，在正常卷积后的55*55*96的output后又添加了一个1*1*96的特殊的1*1的卷积，到底怎么个特殊法呢？看下图（自己画的略丑）：

第一根红线指的是正常96个11*11*3卷积核卷积后的结果

第三根红线指的1*1*96的卷积核，第二根红线就是说的network中的network，图中画出的是1*1*96的卷积核对原图进行 “特殊” 的1*1卷积中的其中一步，其对右上角元素进行卷积。卷积核与原图中的1*1*96区域进行全连接。（当然你要是想进行局部连接，你将一些权重设为零就行了），最后的输出（第四根红线指的地方）也是1*1*96。即卷积核中一个元素对应会输出一个元素

最终结果（第五根红线）还是55*55*96

 

完！