损失函数总结（八）：MultiMarginLoss、MultiLabelMarginLoss

于 2023-10-27 08:47:08 发布
阅读量911 收藏 4
点赞数 2
分类专栏： 深度学习 文章标签： 机器学习 深度学习 python 损失函数 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36758270/article/details/134013202
版权
本文深入探讨两种不常见的损失函数——MultiMarginLoss和MultiLabelMarginLoss，它们分别用于单标签和多标签分类任务。MultiMarginLoss确保正确类别得分高，错误类别得分低，而MultiLabelMarginLoss则帮助区分多类别的边界。文章提供了PyTorch实现代码，并鼓励读者提问和分享。
摘要由CSDN通过智能技术生成

损失函数总结（八）：MultiMarginLoss、MultiLabelMarginLoss

1 引言

在前面的文章中已经介绍了介绍了一系列损失函数 (L1Loss、MSELoss、BCELoss、CrossEntropyLoss、NLLLoss、CTCLoss、PoissonNLLLoss、GaussianNLLLoss、KLDivLoss、BCEWithLogitsLoss、MarginRankingLoss、HingeEmbeddingLoss)。在这篇文章中，会接着上文提到的众多损失函数继续进行介绍，给大家带来更多不常见的损失函数的介绍。这里放一张损失函数的机理图：
在这里插入图片描述

2 损失函数

2.1 MultiMarginLoss

MultiMarginLoss 是一种损失函数，通常用于多分类问题，其中每个样本只能属于一个类别。这个损失函数的主要目标

了解本专栏 订阅专栏 解锁全文 超级会员免费看
sjx_alo
关注
专栏目录
订阅专栏
[机器学习] Pytorch19种损失函数理解[下]— Cosine、MultiMarginLoss、TripletMargin、CTCLoss、NLLL&NLLLoss2d、PoissonNLL
心宝的博客
06-22 1224
2 损失函数 2.13 cosine 损失 CosineEmbeddingLoss torch.nn.CosineEmbeddingLoss(margin=0.0, reduction='mean') 最相似的情况：余弦相似度cos(x1,x2) 为1,loss=0 参数： margin:默认值0 2-14 多类别分类的hinge损失 MultiMarginLoss 一个样本属于一个类。不同类分类损失可以设置权重 torch.nn.MultiMarginLoss(p=1, margin=1.0, wei
Margin Loss 损失函数的设计
weixin_30664539的博客
03-16 3328
参考：http://blog.csdn.net/luo123n/article/details/48878759 Hinge Loss 也叫 max-margin objective 其最著名的应用是作为SVM的目标函数 其二分类情况下，公式如下： y是预测值(-1与1之间，t是目标值+/-1) 其含义为，y的值在-1到1之间就可以了，并不鼓励|y|>1，即并不鼓...
分类损失函数(margin 损失函数)——以二分类为例（∈{−1,+1}）
Robin_Pi的博客
05-03 2万+
文章目录1. 分类问题的损失函数——用????????(????)来判断1.0 margin: ????????(????)1.1 0-1损失 (zero-one loss)1.2 Logistic loss1.3 Hinge loss回归问题的损失函数——用????−????(????)来度量 写在前面： 损失函数的作用：衡量真实值 y 和预测值 f(x) 之间不一致的程度 如何惩罚： 关键：抓住了 ????−????(????) 和 ????????(????) 就抓住了损失函数...
loss函数之MultiMarginLoss, MultiLabelMarginLoss
ltochange的博客
06-20 7630
MultiMarginLoss 多分类合页损失函数
loss函数之MultiLabelSoftMarginLoss
ltochange的博客
06-20 8008
MultiLabelSoftMarginLoss 不知道pytorch为什么起这个名字，看loss计算公式，并没有涉及到margin。 按照我的理解其实就是多标签交叉熵损失函数，验证之后也和BCEWithLogitsLoss的结果输出一致 例子： import torch import torch.nn.functional as F import torch.nn as nn import math def validate_MultiLabelSoftMarginLoss(input, target)
Paddle MultiMarginLoss 算子开发
最新发布
m0_63642362的博客
12-05 237
利用已有的算子对新的算子的python开发
pytorch中的loss函数（1）：MultiLabelSoftMarginLoss
yuxiafan的博客
03-20 1万+
MultiLabelSoftMarginLoss针对multi-label one-versus-all（多分类，且每个样本只能属于一个类）的情形。 loss的计算公式如下： 其中，x是模型预测的标签，x的shape是（N,C），N表示batch size，C是分类数；y是真实标签，shape也是（N,C），。 的值域是(0,）； 的值域是(1,）； 的值域是(0,1)； 的值域是...
深度学习知识点总结：损失函数总结
AI-Mei的博客
04-11 3825
深度学习知识点总结 专栏链接:深度学习知识点总结_Mr.小梅的博客-CSDN博客本专栏主要总结深度学习中的知识点，从各大数据集比赛开始，介绍历年冠军算法；同时总结深度学习中重要的知识点，包括损失函数、优化器、各种经典算法、各种算法的优化策略Bag of Freebies (BoF)等。 本章介绍多种损失函数。 2.3损失函数 深度学习中主要包含三类任务，分类、回归和分割，不同的任务需使用不同的损失函数。例如，分类任务中不能使用平方损失、L1Loss等，因为 2.3.1 L1L...
python画损失函数图_Pytorch十九种损失函数的使用详解
weixin_39947812的博客
12-08 2906
损失函数通过torch.nn包实现，1 基本用法criterion = LossCriterion() #构造函数有自己的参数loss = criterion(x, y) #调用标准时也有参数2 损失函数2-1 L1范数损失 L1Loss计算 output 和 target 之差的绝对值。torch.nn.L1Loss(reduction='mean')参数：reduction-三个值，none:...
pytorch学习笔记十一：损失函数
Dear_learner的博客
02-28 1845
一、损失函数是什么 损失函数：衡量模型输出与真实标签之间的差异。与损失函数有关的还有代价函数和目标函数。 损失函数（Loss Function）：计算一个样本的差异，Loss=f(y^,y)Loss=f\left ( \hat{y},y \right )Loss=f(y^​,y) 代价函数（Cost Function）：计算整个训练集loss的一个平均值，cost=1N∑iNf(y^,y)cos t= \frac{1}{N}\sum_{i}^{N}f\left ( \hat{y},y \right )co
多标签分类问题的损失函数与长尾问题
bigtailhao的博客
10-28 3207
背景 麻省理工学院研究团队发表在ICML2020的 《From ImageNet to Image Classification: Contextualizing Progress on Benchmarks》 表示 imagenet数据集中有约20%的数据都是至少有2个标签 谷歌发布了多标签数据集Open image dataset 主要是利用谷歌自己的多标签模型打标之后，然后人工修改一部分。 常用方案 bceloss 将多标签问题针对每一种类别转化为多个二分类问题 常见问题 1）长尾问题，正负样本不平
的margin函数_人脸识别中的margin损失函数
weixin_36318548的博客
01-12 485
用于人脸识别的损失函数，有Softmax，Contrastive Loss，Triplet Loss，Center Loss，Norm Face，Large-Margin Loss，A-Softmax Loss，InsightFace等等，这篇文章简单聊聊近年的margin损失函数。margin损失函数：Large-margin Softmax(L-Softmax)Sphereface(A-Sof...
【学习笔记】Pytorch深度学习—损失函数（二）
白桃deep_learning博客
08-10 2129
【学习笔记】Pytorch深度学习—损失函数（二）5、nn.L1Loss6、nn.MSELoss7、nn.SmoothL1Loss8、nn.PoissonNLLLoss9、nn.KLDivLoss 5、nn.L1Loss 回归任务中常用的损失函数。 功能：计算模型输出inputs与真实标签target之差的绝对值 Ln=∣xn−yn∣ L_n=\vert x_n-y_n\vert Ln​=∣xn​−yn​∣ 6、nn.MSELoss 回归任务中常用的损失函数。 功能：计算模型输出inputs与target之
Pytorch多标签损失函数MultiLabelSoftMarginLoss报错RuntimeError: The size of tensor a (128) must match the size
Hello Word!
06-16 7561
代码： import torch.nn as nn criterion = nn.MultiLabelSoftMarginLoss(weight=w) # train on celeba train set and lfwa train set train_dataset = CelebA(args.data, 'train_40_att_list.txt', transforms.Compose([ transforms.Resize((250, 250)), transforms.Ran
Pytorch学习之十九种损失函数
热门推荐
mingo_敏
01-01 6万+
损失函数通过torch.nn包实现， 1 基本用法 criterion = LossCriterion() #构造函数有自己的参数 loss = criterion(x, y) #调用标准时也有参数 2 损失函数 2-1 L1范数损失 L1Loss torch.nn.L1Loss(size_average=True) 2-2 均方误差损失 MSELoss torch.nn.MSELoss(siz...
Torch 的几个损失函数
qq_16305985的专栏
01-19 3万+
初步了解一下，pytorch里面的损失函数及使用方法。如有不对的地方，欢迎指出。谢谢！1.  L1LossInput:    X、Y可以是任意形状的输入，X与Y的 shape相同。Output: 标量用途：计算X与Y的差的绝对值， 1/n * (|Xi -Yi|)2. MSELossInput:  x, y 任意具有相同shape的tensor。Output: 计算均方差3. CrossEntro...
神经网络的损失函数
myc的博客
10-22 2万+
1、L1loss 这个就是我们常说的L1范数，简单说就是计算输出值与真实值之间误差的绝对值大小。loss=∣xi−yi∣loss=|x_{i}-y_{i}|loss=∣xi​−yi​∣由于L1 loss在零点不平滑，所以用的比较少。 2、SmoothL1Loss L1loss的平滑版。如果绝对元素误差低于1则使用平方项的标准，否则L1项。 它对异常值的敏感度低于MSELoss，并且在某些情况下可以...
14损失函数
Lorenzo's Oil
01-30 365
一、损失函数概念 1.1 损失函数是什么？ 图中绿色方块为真实数据点，蓝色直线为线性回归模型的结果，可以看模型输出点与真实数据点存在一定的差距，而这个差距常用损失函数来进行描述 损失函数：衡量模型输出与真实标签的差异 损失函数(Loss Function): 计算一个样本的损失值 Loss=f(y^,y)Loss=f(\hat y,y)Loss=f(y^​,y) 代价函数(Cost Func...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sjx_alo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值