关于FCN自定义网络训练时出现loss值大于1的情况

在使用FCN自定义六层网络训练过程中,遇到loss值重复及异常高的问题。通过调整上采样方法和移除最后一层deconv的bias,问题得到部分缓解,但仍需进一步验证。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

使用FCN自定义6层网络,出现了如下的错误:

epoch=1,i=809 of 552131, loss=0.313313
epoch=1,i=810 of 552131, loss=1.110036
epoch=1,i=811 of 552131, loss=0.313313
epoch=1,i=812 of 552131, loss=0.313313
epoch=1,i=813 of 552131, loss=0.313313
epoch=1,i=814 of 552131, loss=0.313313
epoch=1,i=815 of 552131, loss=1.188147
epoch=1,i=816 of 552131, loss=0.641375
epoch=1,i=817 of 552131, loss=0.313313
epoch=1,i=818 of 552131, loss=0.313313
epoch=1,i=819 of 552131, loss=0.313313

loss值很多一样,并且出现了loss值大于1的情况,经过搜索,很多说是因为FCN的上采样并没有使用双线性插值进行初始化。所以增加了双线性插值相关的函数之后,结果还是一样

epoch=0,i=70708 of 552131, loss=1.000120
epoch=0,i=70709 of 552131, loss=0.313675
epoch=0,i=70710 of 552131, loss=1.124928
epoch=0,i=70711 of 552131, loss=0.313675
epoch=0,i=70712 of 552131, loss=0.376079
epoch=0,i=70713 of 552131, loss=0.313675
epoch=0,i=70714 of 552131, loss=0.313675
epoch=0,i=70715 of 552131, loss=0.313675
epoch=0,i=70716 of 552131, loss=0.313675

并没有改善。继续查询相关的资料,后来继续检查代码,发现我在最后一层的deconv层中最后加入了bias,去掉bias之后,结果如下:

epoch=0,i=102158 of 552131, loss=0.841264
epoch=0,i=102159 of 552131, loss=0.474077
epoch=0,i=102160 of 552131, loss=0.474077
epoch=0,i=102161 of 552131, loss=0.474077

果然没有出现大于1的情况,但是很多loss值还是一样,可能与数据集相关,需要进一步验证。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

banxia1995

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值