Resnet到Inception网络模型结构及代码分析

关于inceptionv1-v4的论文以及细节在这篇博客中已经展示的非常的清楚，这里谈谈思考。

inception网络的开创新的优势在于其将神经网络的优化精髓理解的足够透彻，resnet的大神已经证明了网络的深度通过残差网络可以无限的堆叠下去，然后深度到达一定层数后再堆叠下去的作用就很有限了，inception的大神清楚的理解到网络的深度达到一定以后，如果还要想在数据流的角度继续提高模型的泛化能力，另一个思路就是拓宽模型的宽度，原本的瘦子已经给网络设计师们设计的足够挺拔伟岸，这次，设计师们认识到提高网络的特征抽取能力的关键是提高网络中的数据流量，于是进行小的模块的优化，比如将之前设计的n*n的卷积拆分成n*1和1*n的卷积，将原本单线的架构设计成并行的计算，每个并行模块后面再concat起来，整个网络是有多个这样的模块串起来。其中的网络分解和多分支并行等，中间有非常多的trick，很多是实验调参设计出来的，非常之佩服设计师门的鬼斧神工。

欣赏He kaiming大神的残差网络

改进了一下

inception网络的分支

比如说最后的模块组合

inception结构

常规卷积部分->Inception模块组1->Inception模块组2->Inception模块组3->