关于VGG以及一些零碎

2017年9月10日
MIL day 62

写在前面

九月份这个开头不是很好啊，一直拖到中旬才写博客；这段时间是真真没学到东西啊，很尴尬，写周报告时都有点提笔难书！今天上午下午花了点时间分析了vgg代码，其实有些地方还是没理解，但是毕竟是训练好的模型，拿来就用，所以简单test一下，随便从网上找了几个图片直接预测类别，效果还是不错的；14年这个分类可以说是很好的了！但是现在imagenet分类已经超过人类，不得不说深度学习真的发展太快了！

VGG网络

VGG网络特点是将filter大的一个卷积层换成多个filters小的卷积层的组合（如7*7filter换成3个3*3filters叠加），每一组之间由pooling层分开，总共五个组；最后三层为全连接层，输出层为softmax层，激活函数全部选取ReLu。整个网络通过减小filter的尺寸而同时增加每组卷积层数量的方式，提高了对深层特征的挖掘。
以上为vgg网络结构，其中D列为vgg16，E列为vgg19
由于只是看了vgg16的test代码，对具体训练过程和实验不太了解所以后面对vgg就没什么总结的了
有兴趣可以看看这篇，对paper中训练的输入预处理参数初始化优化方法都有讲到；以及实验评估都讲的比较细致。

VGG与Densenet

值得一提的是，今年CVPR拿到best paper的Densenet和vgg网络里这种分组的思路极其相似——
densenet通过多个dense blocks的方式对input进行特征提取，每一block中由4个composite function【BN-ReLu-conv(3*3)】构成，而且vgg中间的pooling层换成了“过渡层”【BN-conv(1*1)-pooling(2*2)】；尽管densenet的block中每一层是利用所有前层的feature-maps，但是整个网络架构是一致的。分组的思想以及组与组之间的过渡的思路都是共通的，只不过densenet更复杂一些；但这种复杂性是有规律可循的，也是提高预测精确性解决问题的必然途径；何况densenet也有一系列的规范约束以降低网络的计算量。

以上为densenet中一个block的组成

VGG之外

今天中午解决电脑无法上网的问题：chrome 里设置高级，打开代理设置，右下角的局域网设置，代理服务器下有个为LAN使用代理服务器，将其前面的勾取消掉，OK。这个问题昨天晚上我女票和我说我还不以为然没想到今天就遇到这个问题了。不然真得费些时间解决，在这简单致意她一下哈哈。
还有一个事情，由于模式识别课程安排，需要到CVPR/ICCV/ECCV这计算机视觉领域三大顶级会议上找一篇今年的paper作报告，也借此了解了一下这三大顶会；仔细回想一下，前段时间读到的densenet，resnet，都是产自CVPR，果然老板给的paper源是真真靠谱的啊!目前还没有定下来哪一篇，还是尽量选择一篇和研究方向相关的。这是后话了。