使用mindspore复现segmenter语义分割算法
【操作步骤&问题现象】
1、即使训练了很多个epoch, 精度一直下降不了,一直在1~2左右,测试出来的miou也是一个非常低的值,例如0.0198
2. 目前尝试过不同的优化器SGD,ADam, AdamW等,学习率策略也尝试过多种,初始学习率也尝试过0.001-0.01不等
3. 模型初始化的值和pytorch版本一致,也尝试过其他的不同初始化方式,loss还是没法下降
4. 模型结构,算子和pytorch版segmenter一致,pytorch版本能正常收敛,loss在第二个epoch就下降到了0-1的范围
能否有大佬帮忙解决一下,非常感谢!
【截图信息】
解答:
有试过调整batch_size吗还有是否正则化过度了,可以参照https://blog.csdn.net/qq_41542989/article/details/124457862?utm_medium=distribute.pc_relevant.none-task-blog-2~default~baidujs_utm_term~default-1-124457862-blog-110160494.pc_relevant_aa&spm=1001.2101.3001.4242.2&utm_relevant_index=3先排查一下