损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

最新推荐文章于 2024-07-18 00:00:00 发布
最新推荐文章于 2024-07-18 00:00:00 发布
阅读量1k 收藏 5
点赞数 7
分类专栏： 深度学习 文章标签： 机器学习 深度学习 python 损失函数 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36758270/article/details/134008266
版权

损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

1 引言

在前面的文章中已经介绍了介绍了一系列损失函数 (L1Loss、MSELoss、BCELoss、CrossEntropyLoss、NLLLoss、CTCLoss、PoissonNLLLoss、GaussianNLLLoss、KLDivLoss、BCEWithLogitsLoss)。在这篇文章中，会接着上文提到的众多损失函数继续进行介绍，给大家带来更多不常见的损失函数的介绍。这里放一张损失函数的机理图：
在这里插入图片描述

2 损失函数

2.1 MarginRankingLoss

MarginRankingLoss 是一种用于对比学习（Siamese网络）中的损失函数，通常用于训练模型来学习如何区分两个样本或实例。这种损失函数通常用于度量两个样本之间的相似性或距离，以便在训练中推动模型使相似样本更接近，而不相似样本更远。MarginRankingLoss的数学表达式如下：

了解本专栏 订阅专栏 解锁全文 超级会员免费看
sjx_alo
关注
  • 7
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
torch深入学习之凤飞九天torch.nn.MarginRankingLoss
NLP与推荐算法
08-31 1537
接上一篇水文，这次还得学习模型，源于Chorus模型，自搜可得 For Video Recommendation in Deep learning QQ Group 277356808 For Visual in deep learning QQ Group629530787 I'm here waiting for you 这里学习一个损失函数MarginRankingLoss，如下，如果不知道怎么来的，建议你直接将help出来的math，复制粘贴到公式下 margin默认为0，..
MarginRankingLoss
YJYS_ZHX的博客
01-30 1780
损失函数的定义为： loss = nn.MarginRankingLoss(margin=0.5,reduction='none') #reduction ：[ 'none' | 'mean' | 'sum'] 损失函数的使用： x1 = torch.tensor([1,2,3,4],requires_grad=True, dtype=torch.float32) x2 = torch.tensor([3,4,5,6], requires_grad=True, dtype=torch.float32) .
loss函数之MarginRankingLoss
ltochange的博客
07-12 1万+
MarginRankingLoss 排序损失函数 对于包含NNN个样本的batch数据 D(x1,x2,y)D(x1,x2,y)D(x1,x2,y), x1x1x1, x2x2x2是给定的待排序的两个输入，yyy代表真实的标签，属于{1,−1}\{1,-1\}{1,−1}。当y=1y=1y=1是，x1x1x1应该排在x2x2x2之前，y=−1y=-1y=−1是，x1x1x1应该排在x2x2x2之后。第nnn个样本对应的losslossloss计算如下: ln=max⁡(0,−y∗(x1−x2)+margin
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
qq_50001789的博客
02-10 4725
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss
机器学习杂货铺1号店
01-15 1万+
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss 翻译自FesianXu， 2020/1/13, 原文链接 https://gombru.github.io/2019/04/03/ranking_loss/ 前言 ranking loss在很多不同的领域，任务和神经网络结构（比如sia...
Pytorch
weixin_43466321的博客
09-27 1143
一、动态库链接文件找不到 二、Pytorch的Dataloader报错 三、pytorch bug 四、常用函数功能使用 1.view view（a，b）中第一个参数a代表目标张量的行数，b代表列数，为了简便起见，也可以只指定第一个参数a，b这个参数设置成-1，函数会自动计算对应的列数。 import torch number_1 = torch.rand...
PyTorch中的损失函数大致使用场景
irober的博客
02-10 1469
最近学习 pytorch，将其损失函数大致使用场景做了一下汇总，多参考网上大家的文章，或直接引用，文后附有原文链接，如有不对，欢迎指正 一、L1Loss L1 Loss，它有几个别称： L1 范数损失 最小绝对值偏差（LAD） 最小绝对值误差（LAE） 最常看到的 MAE 也是指L1 Loss损失函数 它是把目标值 g 与模型输出(估计值) y 做绝对值得到的误差 。 什么时候用？ 回归任务 简单的模型 由于神经网络通常是解决复杂问题，所以很少使用。 二、MSELoss 也就是L2 Lo...
Pytorch十九种损失函数的使用详解
12-20
在PyTorch中，损失函数是深度学习模型训练的核心组成部分，它们用于衡量模型预测与实际目标之间的差距。这里我们将详细探讨十九种PyTorch损失函数的使用，主要介绍其中的几种常见类型。 首先，损失函数的基本使用...
YOLOV3-损失函数及其源代码理解
01-06
YOLOV3-损失函数及其源代码理解（yolo_layer.c） 讲得好 https://github.com/AlexeyAB/darknet/issues/821 x,y,w,h 损失 原版的bbox损失为MSE，其后又GIOU，DIOU… delta即为求完损失的梯度 公式对应图 思路及具体...
损失函数学习笔记
11-28
总结，损失函数的学习不仅仅是理解和计算，更重要的是如何根据实际任务需求选择合适的损失函数，以及如何利用损失函数来评估和改进模型的性能。通过对不同损失函数的深入理解，我们可以更好地优化模型，避免过拟合或...
yolo v1 目标检测算法的损失函数详尽代码注解
05-02
应该是目前为止互联网上能找到的关于yolo v1目标检测开源算法损失函数的最详尽的代码注释了吧！对于初学人工智能的朋友们应该有所帮助。
深度学习损失函数原理分析（三）
智市科技博客
12-06 1841
上一章主要介绍了L1_loss、L2_loss、SmoothL1三个函数，本章主要介绍二进制交叉熵损失 BCELoss、BCEWithLogitsLoss、HingeEmbeddingLoss三个损失函数 2.7 二分类交叉熵损失BCELoss BCELoss主要用于二分类的损失函数，先对参数进行sigmod函数归一化，在采用交叉熵求损失，过程Sigmoid-BCELoss。 sigmod函数： sigmod函数也叫Logistic函数，用于隐层神经单元输出，取值范围（0,1），他可将一个实数映射到（0,1
class torch.nn.MarginRankingLoss(margin=0, size_average=True)
qq_38813456的博客
11-24 3568
功能： 计算两个向量之间的相似度，当两个向量之间的距离大于margin，则loss为正，小于margin，loss为0。 y == 1时，x1要比x2大，才不会有loss，反之，y == -1 时，x1要比x2小，才不会有loss。
【损失函数】Hinge Loss 合页损失
Next_SummerAgain的博客
01-04 3252
Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
loss函数之CosineEmbeddingLoss，HingeEmbeddingLoss
热门推荐
ltochange的博客
06-20 2万+
CosineEmbeddingLoss 余弦相似度损失函数，用于判断输入的两个向量是否相似。 常用于非线性词向量学习以及半监督学习。 对于包含NNN个样本的batch数据 D(a,b,y)D(a,b,y)D(a,b,y)。aaa,bbb 代表模型输出，yyy代表真实的类别标签，yyy中元素的值属于{1,−1}\{1,-1\}{1,−1}，分别表示相似与不相似。 第iii个样本对应的losslossloss，如下： li={1−cos⁡(ai,bi), if yi=1max⁡(0,cos⁡
pytorch损失函数踩坑记：Hinge Embedding Loss并不是HingeLoss
qq_36771396的博客
03-31 1032
今天学习HingeLoss损失函数，看了下其他的博客示例代码，运行得到一个负数的损失函数。百思不得期解，于是仔细的分析了下错误原因。原来是Hinge Embedding Loss和HingeLoss混淆了。Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
PyTorch各种损失函数解析：深度学习模型优化的关键（2）
CDBmax的博客
01-18 1287
本文提供了对 PyTorch 中多种损失函数（Loss functions）的详细解析，包括其用途、使用方法、重要注意事项和数学理论公式。这些损失函数涵盖了从回归问题（如mse_loss和huber_loss），多标签分类（如和），到复杂的相似度学习（如和）等多种机器学习任务。每种损失函数都有其特定的应用场景和优化目标，例如mse_loss用于计算预测值和真实值之间的均方误差，适合于回归任务；而则用于学习数据点之间的相似度，常用于特征嵌入和相似度学习。
计算机毕业设计Django+Vue.js考研推荐系统 考研分数线预测 中公考研爬虫 混合神经网络推荐算法 考研可视化 机器学习 深度学习 大数据毕业设计
最新发布
从业计算机毕业设计10年，打算用一年时间分享10年毕设经验！
07-18 1205
计算机毕业设计Django+Vue.js考研推荐系统 考研分数线预测 中公考研爬虫 混合神经网络推荐算法 考研可视化 机器学习 深度学习 大数据毕业设计
监督学习损失函数研究：选择与优化策略
"本文主要探讨了监督学习中的损失函数及其应用，分析了各种损失函数的特点、优缺点，并探讨了它们在不同应用场景下的选择和优化策略。" 在监督学习中，损失函数扮演着至关重要的角色，它衡量的是模型预测结果与实际...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sjx_alo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值