验证集loss振荡很厉害怎么回事？

原因：batch_size可能太小。
增大batch_size ，震荡逐渐消失，同时在测试集的acc也提高了。但batch_size增加到一定程度时，训练集acc会小于测试集，模型欠拟合，这时，需要继续增大epoch。
总结

• 增大batchsize的好处有三点：
  1）内存的利用率提高了，大矩阵乘法的并行化效率提高。
  2）跑完一次epoch(全数据集)所需迭代次数减少，对于相同的数据量的处理速度进一步加快，但是达到相同精度所需要的epoch数量也越来越多。由于这两种因素的矛盾， batch_Size 增大到某个时候，达到时间上的最优。
  3）一定范围内，batchsize越大，其确定的下降方向就越准，引起训练震荡越小。

• 盲目增大的坏处：
  1）当数据集太大时，内存撑不住。
  2）过大的batchsize的结果是网络很容易收敛到一些不好的局部最优点。
  3）batchsize增大到一定的程度，其确定的下降方向已经基本不再变化。
  4）太小的batch也存在一些问题，比如训练速度很慢，训练不容易收敛等。
  5）具体的batch size的选取和训练集的样本数目相关。