caffe中loss表示网络的收敛情况。loss不断变小表示网络是收敛的,正常情况下,loss会小到零点几的一个数之后上下波动。
造成loss突然增大并一直不降,可能的原因有很多种。大体如下:
- 数据本身杂乱无章,并不收敛。这种情况一般需要增大数据样本的数量,或者剔除训练样本中的脏数据,保证训练样本的质量。
- 网络的学习率太大,需要调小学习率。
- 在caffe的分类中,类别的划分为0,1,2,3...如果不是这种划分方法,则会导致loss持续在83.3333333。(我一开始就把分类写成了1,2,3,...,结果训练半天网络不收敛)