fcn网络调参遇到的那些坑

自己创建的fcn网络，只有6层，训练的时候遇到太多的坑，记录如下：

1.loss值爆炸，甚至为NAN值，结果如下所示

策略：降低学习率

2.学习率调整之后，出现结果如下：

epoch=0,i=30076 of 78989, loss=798.504578

epoch=0,i=30077 of 78989, loss=798.504578

epoch=0,i=30078 of 78989, loss=798.504578

loss值不动，可能陷入局部最优解，没有训练。

3.调整学习率之后，可以配合调整momentum，动量值，相互结合。