损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

最新推荐文章于 2024-03-31 22:01:32 发布
最新推荐文章于 2024-03-31 22:01:32 发布
阅读量926 收藏 5
点赞数 7
分类专栏： 深度学习 文章标签： 机器学习 深度学习 python 损失函数 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36758270/article/details/134008266
版权

损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

1 引言

在前面的文章中已经介绍了介绍了一系列损失函数 (L1Loss、MSELoss、BCELoss、CrossEntropyLoss、NLLLoss、CTCLoss、PoissonNLLLoss、GaussianNLLLoss、KLDivLoss、BCEWithLogitsLoss)。在这篇文章中，会接着上文提到的众多损失函数继续进行介绍，给大家带来更多不常见的损失函数的介绍。这里放一张损失函数的机理图：
在这里插入图片描述

2 损失函数

2.1 MarginRankingLoss

MarginRankingLoss 是一种用于对比学习（Siamese网络）中的损失函数，通常用于训练模型来学习如何区分两个样本或实例。这种损失函数通常用于度量两个样本之间的相似性或距离，以便在训练中推动模型使相似样本更接近，而不相似样本更远。MarginRankingLoss的数学表达式如下：

了解本专栏 订阅专栏 解锁全文 超级会员免费看
sjx_alo
关注
  • 7
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
torch深入学习之凤飞九天torch.nn.MarginRankingLoss
NLP与推荐算法
08-31 1532
接上一篇水文，这次还得学习模型，源于Chorus模型，自搜可得 For Video Recommendation in Deep learning QQ Group 277356808 For Visual in deep learning QQ Group629530787 I'm here waiting for you 这里学习一个损失函数MarginRankingLoss，如下，如果不知道怎么来的，建议你直接将help出来的math，复制粘贴到公式下 margin默认为0，..
Contrastive Loss & Margin Ranking Loss
aCuteCat__的博客
03-06 367
对比损失（Contrastive Loss）和 Margin Ranking Loss 都属于用于学习或的损失函数。它们通常在等场景中使用，其中需要之间的关系。
MarginRankingLoss
YJYS_ZHX的博客
01-30 1769
损失函数的定义为： loss = nn.MarginRankingLoss(margin=0.5,reduction='none') #reduction ：[ 'none' | 'mean' | 'sum'] 损失函数的使用： x1 = torch.tensor([1,2,3,4],requires_grad=True, dtype=torch.float32) x2 = torch.tensor([3,4,5,6], requires_grad=True, dtype=torch.float32) .
pytorch损失函数踩坑记：Hinge Embedding Loss并不是HingeLoss
最新发布
qq_36771396的博客
03-31 911
今天学习HingeLoss损失函数，看了下其他的博客示例代码，运行得到一个负数的损失函数。百思不得期解，于是仔细的分析了下错误原因。原来是Hinge Embedding Loss和HingeLoss混淆了。Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
loss函数之MarginRankingLoss
ltochange的博客
07-12 1万+
MarginRankingLoss 排序损失函数 对于包含NNN个样本的batch数据 D(x1,x2,y)D(x1,x2,y)D(x1,x2,y), x1x1x1, x2x2x2是给定的待排序的两个输入，yyy代表真实的标签，属于{1,−1}\{1,-1\}{1,−1}。当y=1y=1y=1是，x1x1x1应该排在x2x2x2之前，y=−1y=-1y=−1是，x1x1x1应该排在x2x2x2之后。第nnn个样本对应的losslossloss计算如下: ln=max⁡(0,−y∗(x1−x2)+margin
class torch.nn.MarginRankingLoss(margin=0, size_average=True)
qq_38813456的博客
11-24 3559
功能： 计算两个向量之间的相似度，当两个向量之间的距离大于margin，则loss为正，小于margin，loss为0。 y == 1时，x1要比x2大，才不会有loss，反之，y == -1 时，x1要比x2小，才不会有loss。
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
qq_50001789的博客
02-10 4280
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss
机器学习杂货铺1号店
01-15 1万+
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss 翻译自FesianXu， 2020/1/13, 原文链接 https://gombru.github.io/2019/04/03/ranking_loss/ 前言 ranking loss在很多不同的领域，任务和神经网络结构（比如sia...
keras:model.compile损失函数的用法
09-16
主要介绍了keras:model.compile损失函数的用法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
AI基础：机器学习的损失函数
10-11
AI 基础：简易数学入门 AI 基础：Python开发环境设置和小技巧 AI 基础：Python 简易入门 AI 基础：Numpy 简易入门 AI 基础：Pandas 简易入门 AI 基础：Scipy(科学计算库) 简易入门 AI基础：数据可视化简易入门...
损失函数（loss function）PPT
11-11
损失函数（loss function）或代价函数（cost function）是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。在应用中，损失函数通常作为学习准则与优化问题相联系，即...
Pytorch十九种损失函数的使用详解
12-20
损失函数通过torch.nn包实现， 1 基本用法 criterion = LossCriterion() #构造函数有自己的参数 loss = criterion(x, y) #调用标准时也有参数 2 损失函数 2-1 L1范数损失 L1Loss 计算 output 和 target 之差的...
Pytorch中torch.nn的损失函数
12-21
最近使用Pytorch做多标签分类任务，遇到了一些损失函数的问题，因为经常会忘记（好记性不如烂笔头囧rz），都是现学现用，所以自己写了一些代码探究一下，并在此记录，如果以后还遇到其他损失函数，继续在此补充。...
nn.TripletMarginLoss 和 nn.MarginRankingLoss
weixin_43102043的博客
09-24 689
triplet loss
loss函数之CosineEmbeddingLoss，HingeEmbeddingLoss
热门推荐
ltochange的博客
06-20 2万+
CosineEmbeddingLoss 余弦相似度损失函数，用于判断输入的两个向量是否相似。 常用于非线性词向量学习以及半监督学习。 对于包含NNN个样本的batch数据 D(a,b,y)D(a,b,y)D(a,b,y)。aaa,bbb 代表模型输出，yyy代表真实的类别标签，yyy中元素的值属于{1,−1}\{1,-1\}{1,−1}，分别表示相似与不相似。 第iii个样本对应的losslossloss，如下： li={1−cos⁡(ai,bi), if yi=1max⁡(0,cos⁡
【损失函数】Hinge Loss 合页损失
Next_SummerAgain的博客
01-04 2666
Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
【深度学习】19 种损失函数，你能认识几个？
fengdu78的博客
02-14 1733
作者：mingo_敏zenRRan稍有有添加https://blog.csdn.net/shanglianlm/article/details/85019768转载自：深度学习自然语言处理tensorflow和pytorch很多都是相似的，这里以pytorch为例。19种损失函数1. L1范数损失 L1Loss计算 output 和 target 之差的绝对值。torch.nn.L1Loss(re...
损失函数AttributeError: 'tuple' object has no attribute 'log_softmax'
09-05
问题描述中出现的损失函数AttributeError: 'tuple' object has no attribute 'log_softmax'的错误是由于代码中使用了log_softmax函数，但被应用在了一个元组上，而元组类型不具有log_softmax属性。 这个错误通常发生在使用PyTorch时，当你尝试在一个元组上调用log_softmax函数时，会出现这个错误。 要解决这个问题，你需要确保你的输入是一个张量(tensor)而不是元组(tuple)。你可以通过使用torch.Tensor()函数将元组转换为张量来解决这个问题。例如，如果你的输入是一个元组x，你可以使用x = torch.Tensor(x)将其转换为张量。然后你就可以在张量上应用log_softmax函数了。 另外，如果你的输入数据是多维的，你可能还需要指定dim参数来指定在哪个维度上应用log_softmax函数。例如，如果你的输入是一个形状为(batch_size, num_classes)的张量，你可以使用torch.nn.functional.log_softmax(x, dim=1)来在第二个维度上应用log_softmax函数。 总结一下，要解决损失函数AttributeError: 'tuple' object has no attribute 'log_softmax'的错误，你可以将元组转换为张量，并确保在张量上调用log_softmax函数。如果你的输入是多维的，你可能还需要指定dim参数来指定在哪个维度上应用log_softmax函数。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [AttributeError: ‘tuple‘object has no attribute ‘log_softmax](https://blog.csdn.net/qq_42530347/article/details/115657437)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [【Python】AttributeError: ‘AutoSchema’ object has no attribute ‘get_link’](https://download.csdn.net/download/weixin_38534444/13745029)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sjx_alo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值