[机器学习] Pytorch19种损失函数理解[中]— MarginRanking、Hinge&HingeEmbedding、MultiLabelMargin、SoftMargin、SmoothL1

最新推荐文章于 2024-03-31 22:01:32 发布
最新推荐文章于 2024-03-31 22:01:32 发布
阅读量455 收藏
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Trance95/article/details/118064434
版权

参考：https://www.shuzhiduo.com/A/1O5EZv6Wd7/
参考：https

文章目录

2 损失函数

2.7 MarginRankingLoss 边距排序损失

torch.nn.MarginRankingLoss(margin=0.0, reduction='mean')

对于 mini-batch(小批量) 中每个实例的损失函数如下:
在这里插入图片描述
Ranking：如果排序的内容仅仅是两个元素而已，那么对于某一个元素，只有两个结果，那就是在第二个元素之前或者在第二个元素之前。其实这就是该损失函数的核心了。
y 只能有两个取值，也就是1或者-1。

  1. 当y=1 的时候，表示我们预期
了解本专栏 订阅专栏 解锁全文 超级会员免费看
心心喵
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss
走在深度学习前沿的小宋
10-27 1029
本文对损失函数进行了部分总结，包括：MarginRankingLoss、HingeEmbeddingLoss等损失函数及其在当前损失函数众多的情况下使用的环境。
ptranking:在PyTorch中学习排名
05-10
介绍 这个开源项目称为PTRanking （在PyTorch中学习排名），旨在提供基于PyTorch的典型的按等级学习方法的可扩展和可扩展的实现。 一方面，该项目可以对多个基准数据集进行统一比较，从而可以深入了解以前的学习排名方法。 另一方面，该项目使开发和合并新提出的模型变得容易，从而扩展了等级学习技术的领域。 主要特点： 许多具有代表性的学习排名模型，不仅包括通过经验风险最小化的传统优化框架，还包括对抗性优化框架 支持广泛使用的基准数据集。 同时，还支持以指定比例随机掩盖真实标签 支持不同的指标，例如Precision，MAP，nDCG和nERR 高度可配置的功能，用于微调超参数，例如，对特定模型的超参数进行网格搜索 提供易于使用的API，以开发新的按等级学习模型 请参考以获取更多详细信息。
loss函数之MarginRankingLoss
ltochange的博客
07-12 1万+
MarginRankingLoss 排序损失函数 对于包含NNN个样本的batch数据 D(x1,x2,y)D(x1,x2,y)D(x1,x2,y), x1x1x1, x2x2x2是给定的待排序的两个输入，yyy代表真实的标签，属于{1,−1}\{1,-1\}{1,−1}。当y=1y=1y=1是，x1x1x1应该排在x2x2x2之前，y=−1y=-1y=−1是，x1x1x1应该排在x2x2x2之后。第nnn个样本对应的losslossloss计算如下: ln=max⁡(0,−y∗(x1−x2)+margin
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
qq_50001789的博客
02-10 4769
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
MarginRankingLoss
VIEO
08-23 7425
https://zhuanlan.zhihu.com/p/83364904 MarginRankingLoss 大家可能对这个损失函数比较陌生。在机器学习领域，了解一个概念最直观的最快速的方式便是从它的名字开始。 MarginRankingLoss也是如此，拆分一下，Margin，Ranking，Loss。 Margin：前端同学对Margin是再熟悉不过了，它表示两个元素之间的间隔。在机器学习中其实Margin也有类似的意思，它可以理解为一个可变的加在loss上的一个偏移量。也就是表明这个方法
Pytorch十九种损失函数的使用详解
12-20
除了上述损失函数，PyTorch还提供了其他如MSELoss for regression（回归任务）、SmoothL1Loss（平滑L1损失，结合了L1和MSE的优点）、MultiLabelMarginLoss（多标签分类的边界损失）、TripletMarginLoss（三元组损失...
定制化深度学习：在PyTorch中实现自定义损失函数
最新发布
07-19
PyTorch 是一个开源的机器学习库，广泛用于计算机视觉和自然语言处理等应用中的深度学习研究和生产。它由 Facebook 的人工智能研究团队开发，并且得到了许多研究机构和企业的支持。 以下是 PyTorch 的一些主要特点...
人工智能导论作业-用 PyTorch 实现的中文文本情感分类网络机器学习期末作业.zip
03-02
人工智能导论作业-用 PyTorch 实现的中文文本情感分类网络机器学习期末作业.zip个人98分期末大作业项目，代码完整下载可用。主要针对计算机相关专业的正在做课程设计和期末大作业的学生和需要项目实战练习的学习者。...
PyTorch 激活函数、损失函数、优化器-谢TS的博客.pdf
07-17
- **SmoothL1Loss**：结合了L1和L2损失的特性，对于较小的误差使用L2，较大的误差使用L1，平滑了损失函数的突变。 - **CrossEntropyLoss**：适用于多分类问题，计算的是对数似然的负值，能同时考虑每个类别的概率...
【PyTorch】PyTorch的各个组件和实战
Katniss的Blog
09-14 587
包来完成，这是PyTorch官方用于图像处理的工具库，上面提到的使用内置数据集的方式也要用到。PyTorch的一大方便之处就在于它是一整套“生态”，有着官方和第三方各个领域的支持。数据集中包含已经预先划分好的训练集和测试集，其中训练集共60,000张图像，测试集共10,000张图像。每张图像均为单通道黑白图像，大小为32*32pixel，分属10个类别。我们将通过FashionMNIST时装分类来学习PyTorch进行深度学习的流程。如果需要对每一个batch进行一些操作，可以使用。
Pytorch-搭建网络框架(二)
c_Qyaya的博客
10-01 281
Hello SYT 损失函数模块： 损失函数的构建分为选择损失函数，在循环中得到损失值并反向传播三步 loss_function = nn.CrossEntropyLoss() # 选择损失函数 #训练之后，获得outputs loss = loss_function(outputs, labels) # 得到损失值 loss.backward() # 反向传播 损失函数的选择： pytorch中有如下18种损失函数 nn.CrossEntropyLoss nn.NLLLoss nn.BCELoss
Edge loss 解读
leo0308的博客
06-24 6945
Edge loss
深度学习损失函数原理分析（三）
智市科技博客
12-06 1843
上一章主要介绍了L1_loss、L2_loss、SmoothL1三个函数，本章主要介绍二进制交叉熵损失 BCELoss、BCEWithLogitsLoss、HingeEmbeddingLoss三个损失函数 2.7 二分类交叉熵损失BCELoss BCELoss主要用于二分类的损失函数，先对参数进行sigmod函数归一化，在采用交叉熵求损失，过程Sigmoid-BCELoss。 sigmod函数： sigmod函数也叫Logistic函数，用于隐层神经单元输出，取值范围（0,1），他可将一个实数映射到（0,1
【损失函数】Hinge Loss 合页损失
Next_SummerAgain的博客
01-04 3333
Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
pytorch损失函数踩坑记：Hinge Embedding Loss并不是HingeLoss
qq_36771396的博客
03-31 1055
今天学习HingeLoss损失函数，看了下其他的博客示例代码，运行得到一个负数的损失函数。百思不得期解，于是仔细的分析了下错误原因。原来是Hinge Embedding Loss和HingeLoss混淆了。Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
nn.TripletMarginLoss 和 nn.MarginRankingLoss
weixin_43102043的博客
09-24 714
triplet loss
loss函数之CosineEmbeddingLoss，HingeEmbeddingLoss
热门推荐
ltochange的博客
06-20 2万+
CosineEmbeddingLoss 余弦相似度损失函数，用于判断输入的两个向量是否相似。 常用于非线性词向量学习以及半监督学习。 对于包含NNN个样本的batch数据 D(a,b,y)D(a,b,y)D(a,b,y)。aaa,bbb 代表模型输出，yyy代表真实的类别标签，yyy中元素的值属于{1,−1}\{1,-1\}{1,−1}，分别表示相似与不相似。 第iii个样本对应的losslossloss，如下： li={1−cos⁡(ai,bi), if yi=1max⁡(0,cos⁡
【深度学习】最全的十九种损失函数汇总
wzk4869的博客
06-27 1万+
【深度学习】最全的十九种损失函数汇总
"深度学习pytorch版1详解：安装、基础概念与机器学习问题分类
在关键组件部分，作者们介绍了深度学习中的一些关键组件，比如神经网络、损失函数、优化算法等。这些组件是构建深度学习模型的基础，了解这些组件对读者来说尤为重要。 在机器学习问题种类部分，作者们介绍了不同...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

心心喵

喵喵(*^▽^*）

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值