深度学习前向过程也影响模型结果
记录深度模型训练的一大坑 最近一直在做深度模型的实验,使用的基模型是resnet50.根究对模型的设计,模型在参数更新时会受到来自4方面的不同梯度的影响。可能就是影响太多,对模型的效果反而有了负面的影响,接下来的工作是减少对模型影响的梯度,逐个实验。loss = raw_loss + part_loss + concat_loss损失函数包括3个部分,模型的输入有两个来源,raw image 和 part image,分别对应raw_loss, part_loss; concat_los.
原创
2021-04-10 11:15:41 ·
399 阅读 ·
0 评论