nn.CrossEntropyLoss() 与 NLLLoss()区别与联系

最新推荐文章于 2022-11-08 10:38:49 发布
最新推荐文章于 2022-11-08 10:38:49 发布
阅读量225 收藏
点赞数
文章标签： 深度学习 神经网络 机器学习
原文链接：https://blog.csdn.net/m0_38133212/article/details/88087206
版权

nn.CrossEntropyLoss() 与 NLLLoss()
NLLLoss 的 输入 是一个对数概率向量和一个目标标签. 它不会为我们计算对数概率. 适合网络的最后一层是log_softmax. 损失函数 nn.CrossEntropyLoss() 与 NLLLoss() 相同, 唯一的不同是它为我们去做 softmax.

CrossEntropyLoss()=log_softmax() + NLLLoss() 


参考链接：

(3条消息) CrossEntropyLoss与NLLLoss的总结_街道口扛把子的博客-CSDN博客_f.nll_lossicon-default.png?t=L892https://blog.csdn.net/m0_38133212/article/details/88087206

(3条消息) Pytorch详解NLLLoss和CrossEntropyLoss_豪哥的博客-CSDN博客_nlllossicon-default.png?t=L892https://blog.csdn.net/qq_22210253/article/details/85229988

yimenren
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【pytorch】nn.CrossEntropyLoss()和nn.NLLLoss()的区别
pangxing6491的博客
06-13 151
https://blog.csdn.net/idwtwt/article/details/82841361?spm=1001.2101.3001.6650.1&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7ERate-1-82841361-blog-102725285.pc_relevant_antiscanv3&depth_1-utm_source=distribute.pc_relevant.none-ta
NLLLoss和CrossEntropyLoss的区别和联系
u010995990的博客
11-02 5419
NLLLoss NLLLoss的全称是Negative Log Likelihood Loss，也就是最大似然函数。 在图片进行单标签分类时，【注意NLLLoss和CrossEntropyLoss都是用于单标签分类，而BCELoss和BECWithLogitsLoss都是使用与多标签分类。这里的多标签是指一个样本对应多个label.】 假设输入m张图片，输出一个m*N的tensor,其中N是分类的个数，比如N为词表大小。比如，输入3张图片，分三类，最后的输出是一个3∗33*33∗3的tensor，举一个例子
NLLLoss和CrossEntropyLoss的区别
思念殇千寻的博客
03-25 460
　　参考资料： 　　https://blog.csdn.net/qq_22210253/article/details/85229988
【Pytorch】对比CrossEntropyLoss与NLLLoss
guofei_fly的博客
01-31 659
CrossEntropyLoss（交叉熵损失）与NLLLoss（negative log likelihood，负对数似然损失）都是适用于分类问题，基于log似然损失，即交叉熵损失函数的实现方式，其体现了两个分布的近似程度：L(p,q)=−∑ipilog⁡qiL(p,q)=-\sum_ip_i\log q_iL(p,q)=−i∑​pi​logqi​对于分类问题，其只在真实所属类别kkk上的编码为1...
细数nn.BCELoss与nn.CrossEntropyLoss的区别
12-20
以前我浏览博客的时候记得别人说过，BCELoss与CrossEntropyLoss都是用于分类问题。可以知道，BCELoss是Binary CrossEntropyLoss的缩写，BCELoss　CrossEntropyLoss的一个特例，只...2、使用nn.CrossEntropyLoss会自动
nn.CrossEntropyLoss()
01-20
criterion = nn.CrossEntropyLoss() output = torch.randn(3, 5, requires_grad=True) label = torch.empty(3, dtype=torch.long).random_(5) loss = criterion(output, label) print(网络输出为3个5类:) print...
pytorch中交叉熵损失(nn.CrossEntropyLoss())的计算过程详解
09-18
今天小编就为大家分享一篇pytorch中交叉熵损失(nn.CrossEntropyLoss())的计算过程详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
Pytorch损失函数nn.NLLLoss2d()用法说明
09-16
主要介绍了Pytorch损失函数nn.NLLLoss2d()用法说明，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
【新人向】Pytorch中NLLLoss()和CrossEntropyLoss()的区别和联系
xiangduixuexi的博客
05-07 1665
【softmax + NLLLoss = CrossEntropyLoss】在Pytorch中，CrossEntropyLoss可以直接接到模型结果之后，直接得出交叉熵损失。 而NLLLoss需要在模型结果后先接一个Softmax，将模型结果变成概率，再用NLLLoss求预测损失。
[深度学习] Pytorch nn.CrossEntropyLoss()和nn.NLLLoss() 区别
studyvcmfc的专栏
06-14 719
https://zengwenqi.blog.csdn.net/article/details/96282788
NLLLoss和CrossEntropyLoss的区别和联系【softmax+log+NLLLoss = CrossEntropyLoss】
py今天刷题了吗
11-08 271
【代码】NLLLoss和CrossEntropyLoss的区别和联系【softmax+log+NLLLoss = CrossEntropyLoss】
nll loss 和CrossEntropyLoss 的一些区别
Aries_M的博客
12-28 1555
NLL Loss 在传入这个loss前，需要先对输入进行一次 log_softmax 的变换, 例子如下： import torch import torch.nn as nn import torch.nn.functional as F seed=1 m = nn.LogSoftmax(dim=1) loss = nn.NLLLoss() # input is of size N x C = 3 x 5 input = torch.randn(3, 5, requires_grad=True) pri
Pytorch中损失函数 NLLLOSS 和 CROSSENTROPYLOSS 的区别
自动化研究生在读，此博客记录了我的学习与刷题经验，欢迎大家阅读交流
06-29 1536
NLLLOSS 是 negative log likelihood loss 负对数似然损失函数，CROSSENTROPYLOSS 是交叉熵损失函数，它们都是用于多分类任务的损失函数，正如我在笔记中提到的，它们实际上是一样的，在 Pytorch 中这两者的区别就只在于接收的输入不同：torch.nn.functional.cross_entropy 将 logits 作为输入（内部自动实现 log_softmax） torch.nn.functional.nll_loss 将 log-probabiliti
Pytorch学习之：深度剖析NLLLoss和 CrossEntropy 的区别：代码 + 原理 + 为什么有效
qq_42902997的博客
10-27 901
与 NLLLoss 的情景一样，我们依然沿用刚才的。['吃', '饭']
nll_loss 和 cross_entropy
weixin_42727538的博客
11-29 1862
nll_loss torhc.nn.functional中给出的关于nll_loss的一个样例 target: 数值 <= C-1, 一般可以看作一个一维列表，存放的是真实类别编号 先经过softmax，再经过log，最后再使用nll_loss # input is of size N x C = 3 x 5 input = torch.randn(3, 5, requires_grad=True) # each element in target has to have 0 <= value
PyTorch的NLLLoss和CrossEntropyLoss区别和联系
qysh123的专栏
08-16 151
这个问题其他网友已经总结得很好，例如：https://blog.csdn.net/qq_22210253/article/details/85229988 为了方便大家更进一步理解，我把上面博客中的例子总结到了一个文件中，方便大家以此为例学习： import torch import torch.nn as nn input=torch.randn(3,3) print(input) sm=nn.Softmax(dim=1) print(sm(input)) log_result=torch.l
torch.nn.crossentropyloss
最新发布
09-15
torch.nn.CrossEntropyLoss是...总结起来，torch.nn.CrossEntropyLoss是PyTorch中用于多分类问题训练的交叉熵损失函数，它结合了torch.nn.LogSoftmax和torch.nn.NLLLoss两个函数，并且可以适用于不同形式的模型输出。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值