pytorch mseloss bceloss 对比

最新推荐文章于 2024-07-27 17:29:13 发布

AI算法网奇

最新推荐文章于 2024-07-27 17:29:13 发布

阅读量7.8k

点赞数

分类专栏： pytorch知识宝典

本文链接：https://blog.csdn.net/jacke121/article/details/83753349

版权

pytorch知识宝典专栏收录该内容

499 篇文章 226 订阅 ¥29.90 ¥99.00

订阅专栏

超级会员免费看

本文对比了PyTorch中的MSELoss和BCELoss。MSELoss适用于回归任务，而BCELoss更适合分类且收敛速度较快。BCELoss输入需在0-1之间，目标值不限。两者在不同情境下表现不同，如0.7与1的MSELoss损失为0.09，而0.75与0.5的损失为0.0625。

摘要由CSDN通过智能技术生成

1) 两个分布很接近，但是与0和1不接近，loss仍然很大，只适合分类

2)mse只计算两个差异，做回归用的，数据相同，bceloss比mseloss大。

3)SmoothL1Loss比mseloss小

4) bceloss收敛比较快

5)bceloss input必须是0-1之间，targets可以不是

6)target 是0.5 input 是0.4与0.6，loss无正负之分，只有大小之分。

import torch

conf_mask = torch.FloatTensor([0.0, 1.0, 0.0, 1.0, 1.0])
conf_data = torch.FloatTensor([0.1, 0.9, 0.0, 0.2, 0.2])

loss_fn = torch.nn.MSELoss() # reduce=False, size_average=False)

x= loss_fn(conf_data, conf_data).item()
print('self',x)

x= loss_fn(conf_data, conf_mask).item()
print('mse',x)

loss_fn = torch.nn.BCELoss()  # reduce=Fals

了解本专栏