pytorch中的二分类及多分类交叉熵损失函数

原创

已于 2022-08-15 00:22:19 修改 · 1.8w 阅读

31 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #分类损失函数

于 2020-11-12 23:42:57 首次发布

本文详细介绍了PyTorch中二分类及多分类交叉熵损失函数的使用方法，并通过实例展示了BCELoss、BCEWithLogitsLoss及CrossEntropyLoss的具体应用。

本文主要记录一下pytorch里面的二分类及多分类交叉熵损失函数的使用。

import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(2020)

<torch._C.Generator at 0x7f4e8b3298b0>

二分类交叉熵损失函数

该函数主要用于多标签分类中，针对每个标签进行二分类。

Single

m = nn.Sigmoid()
loss = nn.BCELoss()
input = torch.randn(3, requires_grad=True)
print(input)
target = torch.empty(3).random_(2)
output = loss(m(input), target)
print(output)
f_output = F.binary_cross_entropy(m(input), target)
print(f_output)
l_output = nn.BCEWithLogitsLoss()(input, target)
print(l_output)

tensor([ 1.2372, -0.9604,  1.5415], requires_grad=True)
tensor(0.2576, grad_fn=<BinaryCrossEntropyBackward>)
tensor(0.2576, grad_fn=<BinaryCrossEntropyBackward>)
tensor(0.2576, grad_fn=<BinaryCrossEntropyWithLogitsBackward>)