1.loss,最开始因为是u2netp跑的分割,采用的bceloss,然后会cuda核函数运算错误,暂时没有尝试用pycuda去处理,使用mseloss就能完美运行了,大家也可以自己写loss又或者换其他loss试试。
2.优化器,最开始用的adam优化器,但是万能的adam出毛病了,梯度爆炸了,采用默认参数依旧梯度爆炸,最开始还以为没有加激活函数,也查了bn,但是没什么问题,换成sgd+余弦褪火就不会产生梯度爆炸的问题了。
1.loss,最开始因为是u2netp跑的分割,采用的bceloss,然后会cuda核函数运算错误,暂时没有尝试用pycuda去处理,使用mseloss就能完美运行了,大家也可以自己写loss又或者换其他loss试试。
2.优化器,最开始用的adam优化器,但是万能的adam出毛病了,梯度爆炸了,采用默认参数依旧梯度爆炸,最开始还以为没有加激活函数,也查了bn,但是没什么问题,换成sgd+余弦褪火就不会产生梯度爆炸的问题了。