1.inception-v3

本次实验采用Google的inception-v3 ，但是去掉了其中的BN层，将其中的N*1，1*N的卷积核替换回N*N，然后分解成3*3的卷积核。前段时间自己的框架上跑，发现accuracy上不来，并且val set 的loss降不下来。现在用caffe来测试一次，看其accuracy能到什么水平，记录其训练过程。（2018-1-3-9）

———————————————（1-5-10）——————————————

本次测试采用gtx1070显卡，学习率下降方式采取和作者论文里介绍的一样的方式，不同的是将RMSProp下降方式改成了SGD。在经过7个epochs后，准确率达到了0.5057，耗时48小时左右（log被冲掉了(꒦_꒦) ）。已经接近在自己框架上跑出来极限了？（这个问号是说，以前的网络文件我写有错误，所以没有好的表现，在更改正确之后，出现了“高原反应”。学习率没变，竟然出现了高原反应，极其诡异）。或者说是因为没有加BN层？

另外，在另外一台服务器上，使用caffe框架，GoogLeNet 训练ImageNet，在40小时左右（时间没记录，以后注意，手写一份时间记录）。在19个epochs后，准确率达到0.538（在1070显卡、自己的框架上最后大约达到0.6左右）。