具体现象1:训练alexnet分类网络,多次epoch后,分类精度为同样的值,而且精度很低
原因: 发现所有样本都预测为同一类别
进一步检查,
具体现象2:在第一个epoch的第一个step中,pred_y(预测分类)的结果正常(概率形式),
但第二个step以及以后的step,pred_y的结果不正常([0,0,1,0,....],即某1位为1,其它位全部为0)
原因:第一个step时,网络还未优化;但第二个step时网络已优化,所以考虑优化错误。
解决策:改小学习率(lr:0.001 ---> 0.0001)