【语义分割】lovasz-softmax loss（二）

最新推荐文章于 2024-03-20 15:42:58 发布
最新推荐文章于 2024-03-20 15:42:58 发布
阅读量5.8k 收藏 11
点赞数 5
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/baidu_27643275/article/details/95666295
版权

lovasz-softmax loss（一）

lovasz-softmax loss是对语义分割指标miou直接进行优化的一个loss，相比比较经典的dice loss有诸多优势。

在这里插入图片描述
左框的IOU loss是集合函数，并不是子模集合函数。将其变形得到右框，变形后为子模集合函数
在这里插入图片描述
lovasz extentsion △ ˉ J c \bar{\triangle}_{J_{c}} △ˉ​Jc​​由 △ J c \triangle_{J_{c}} △Jc​​线性差值得到。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
lovasz-softmax loss与cross entropy 结合使用fine-tune，效果更优

推荐阅读：
IoU loss is submodular
再读Lovasz-Softmax Loss

1273545169
关注
  • 5
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
pytorch-loss:标签平滑，amsoftmax，散焦，三重损失，lovasz-softmax。 也许有用
04-30
火炬损失 我实现的标签平滑，amsoftmax，焦点损耗，双焦点损耗，三重态损耗，giou损耗，亲和力损耗，pc_softmax_cross_entropy，ohem损耗（基于行硬挖掘损失的softmax），大利润- softmax（bmvc2019），lovasz-softmax-loss和dice-loss（广义的软骰子损失和批处理软骰子损失）。 也许这对我的未来工作很有用。 还尝试实现swish，hard-swish（hswish）和mish激活功能。 此外，添加了基于cuda的一键式功能（支持标签平滑）。 新添加一个“指数移动平均线（EMA）”运算符。 添加卷积运算，例如coord-conv2d和dynamic-conv2d（dy-conv2d）。 一些运算符是使用pytorch cuda扩展实现的，因此您需要先对其进行编译： $ python setup.py
Loss_ToolBox-PyTorch:PyTorch实现焦点损失和Lovasz-Softmax损失
05-24
Loss_ToolBox 介绍 该存储库包括3D图像分割的几处损失。 （PS：从借一些代码） （根据常规实现修改）
总结下LovaszSoftmax损失函数（pytorch版）
gbz3300255的博客
08-21 9975
闹心，希望四个月后一切顺利！！！！！！！！！！！！！！！ 1.做语义分割，用的unet++框架。他的损失函数是LovaszSoftmax 一会查查具体原理写在下面吧 2.做目标检测用的是yolov3框架。它的损失函数是：自己定义的，是一系列损失函数的组合。以前写过，代码做过注释。 3.做个简单的分类网络。损失函数用的CrossEntropyLoss。也写过相关的博客记录吧。 4.下一步准备把市面上常规的损失函数都看看理解理解。后续把总结发上来 ...
语义分割中那些常见的loss
最新发布
weixin_44095417的博客
03-20 838
语义分割是计算机视觉中的一个任务，常用的语义分割损失函数包括： 交叉熵损失（Cross Entropy Loss） 「交叉熵损失（Cross Entropy Loss）」是在分类任务中常用的一种损失函数，也被称为负对数似然损失（Negative Log-Likelihood Loss）。它主要用于测量模型输出的概率分布与实际标签之间的差异。在语义分割任务中，交叉熵损失通常被应用于像素级别的分类。 假设有一个像素属于C类别的图像，其真实标签为one-hot编码的向量[0, 0, ..., 1, ..., 0]
LovaszSoftmax代码实现
weixin_42750737的博客
09-02 1208
def lovasz_grad(gt_sorted): """ Computes gradient of the Lovasz extension w.r.t sorted errors See Alg. 1 in paper """ gts = tf.reduce_sum(gt_sorted) intersection = gts - tf.cum...
从二开始的线性回归——SOFTMAX回归
weixin_63226390的博客
05-03 558
动手深度学习（第二版）
Paper Reading - Loss系列 - 深度学习中各种常见Loss与组合综述[WIP]
weixin_43953700的博客
04-24 5017
目录 回归误差 交叉熵 CE BCE CE Focal Loss Dice Loss Lovasz-Softmax Loss 更多可见计算机视觉-Paper&Code - 知乎 本文主要希望总结下目前学术与业界常用到的Loss函数以及其对应的优缺点 回归误差 两种loss不同位置的梯度情况 MAE mean average error（L1损失）主要用于机器学习，回归问题中。均方误差对于异常值相对不敏感，但是由于他的梯度是一直不变的，即使loss很小梯度都非常大 .
『paddle』paddleseg 学习笔记：Lovasz loss
libo-coder
07-16 5075
Lovasz loss一、Lovasz loss使用指南二、Lovasz softmax loss 实验对比2.1 数据准备2.1.1 **关于CityScapes数据集**2.1.2 **关于 Pascal VOC 2012 数据集**2.1.3 关于 ADE20K 数据集2.1.4 关于 Coco Stuff 数据集2.1.4 关于自定义数据集2.2 Lovasz loss训练三、Lovasz hinge loss实验对比 在图像分割任务中，经常出现类别分布不均匀的情况，例如：工业产品的瑕
LovaszSoftmax
年轻即出发，
01-18 1万+
论文:The Lovasz-Softmax loss: A tractable surrogate for the optimization of the intersection-over-union measure in neural networks Github：https://github.com/bermanmaxim/LovaszSoftmax   CVPR2018   论...
【语义分割】类别不平衡损失函数合集
AI爱好者的博客，分享计算机领域相关知识
03-14 1万+
在语义分割领域，我们会常常遇到类别不平衡的问题。比如要分割的目标（前景）可能只占图像的一小部分，因此负样本的比重很大，导致网络倾向于将所有样本判断为负样本。本文介绍了在数据不平衡时常用的一些损失函数。 类别不平衡会出现什么问题呢？假设我们需要训练一个分类器来对黄豆和绿豆分类，用100颗豆子训练分类器，其中99颗黄豆、1颗绿豆，那么分类器会倾向于把所有豆子都分类为黄豆，因为这么做就可以达到99%的准确率。但是我们不希望分类器这么做，所以需要一些方法来提升分类器的性能。 一、Weighted Cross E
【语义分割】lovasz-softmax loss（一）
筱
07-11 4678
基础概念 NP： 可在多项式时间内得到验证的问题。即，NP问题其解的正确性很容易被检验出来，这里的很容易检验指的是存在一个多项式算法。 NP-hard： 次模函数（submodular functions）： 次模性是convexity（凸性）的离散模拟。由于convexity使得连续函数更容易最优化，因而次模性在组合优化中重要作用。当目标函数是次模函数时，许多组合优化问题能够在多项式时间内得到...
人脸识别 L-Softmax
03-01
Cross-entropy loss together with softmax is arguably one of the most common used supervision components in convolutional neural networks (CNNs). Despite its simplicity, popularity and excellent performance, the component does not explicitly encourage discriminative learning of features. In this paper, we propose a generalized large-margin softmax (L-Softmax) loss which explicitly encourages intra-class compactness and inter-class separability between learned features. Moreover, L-Softmax not only can adjust the desired margin but also can avoid overfitting. We also show that the L-Softmax loss can be optimized by typical stochastic gradient descent. Extensive experiments on four benchmark datasets demonstrate that the deeply-learned features with L-softmax loss become more discriminative, hence significantly boosting the performance on a variety of visual classification and verification tasks
SalsaNext:用于自动驾驶的LiDAR点云的不确定度感知语义分割
05-14
为了直接优化Jaccard指数，我们进一步将加权交叉熵损失与Lovasz-Softmax损失相结合。 最后，我们注入贝叶斯处理，以计算云中每个点的认知和无意识不确定性。 我们对Semantic-KITTI数据集进行了全面的定量评估，这...
L. Lovasz - Discrete Mathematics Lecture Notes.pdf
08-21
This is Lecture Notes accompanying its textbook, Please also find the original textbook in this download site.
PyTorch的SoftMax交叉熵损失和梯度用法
12-23
在PyTorch中可以方便的验证SoftMax交叉熵损失和对输入梯度的计算 关于softmax_cross_entropy求导的过程,可以参考HERE 示例： # -*- coding: utf-8 -*- import torch import torch.autograd as autograd from torch....
常见激活函数适用场景及优缺点分析
meng_xin_true的博客
03-18 5911
什么是激活函数 激活函数（Activation Function）是一种添加到人工神经网络中的函数，旨在帮助网络学习数据中的复杂模式。在神经元中，输入的input经过一系列加权求和后作用于另一个函数，这个函数就是这里的激活函数。下图为单个感知机模型的结构，其中f(⋅)f(·)f(⋅)即为激活函数，y=f(∑wixi)y=f(\sum w_ix_i)y=f(∑wi​xi​)。 激活函数的作用 对于一个多层感知机，给当一个小批量样本X∈Rn×dX \in \Bbb R^{n×d}X∈Rn×d，其批量大小为nn
李沐-动手学深度学习-softmax介绍
qq_60678226的博客
05-26 2636
回归估计一个连续值 分类预测一个离散类别 softmax函数的解释： Softmax从字面上来说，可以分成soft和max两个部分。max故名思议就是最大值的意思。Softmax的核心在于soft，而soft有软的含义，与之相对的是hard硬。很多场景中需要我们找出数组所有元素中值最大的元素，实质上都是求的hardmax。 hardmax最大的特点就是只选出其中一个最大的值，即非黑即白。但是往往在实际中这种方式是不合情理的，比如对于文本分类来说，一篇文章或多或少包含着各种主题信息，我们更期望得到文章
从loss处理图像分割中类别极度不均衡的状况---keras
热门推荐
m0_37477175的博客
02-10 9万+
最近在做小目标图像分割任务（医疗方向），往往一幅图像中只有一个或者两个目标，而且目标的像素比例比较小，选择合适的loss function往往可以解决这个问题。以下是我的实验比较。 场景： 1.U-Net网络 2. keras binary_crossentropy 二分类交叉商损失会导致模型学习不到很好的效果，因为背景所占的比例太大，而目标太小，是严重的不平衡数据。 Focal loss ...
项目分享 | 基于昇思MindSpore AI框架的肾脏肿瘤分割一等奖[咸鱼]团队思路
Kenji_Shinji的博客
05-26 109
Res-U-Net的输入是一个512×512×3的图像，其中3是图像的通道数，512是图像的宽和高。在拼接前ResDownSample层的输出特征图会先通过一个1×1的Conv层进行通道数的缩减，这个通道数的缩减是为了确保后面的CatResBlock的输入特征图具有合理的通道数。第2个卷积层的stride = 1，其不改变特征图的宽和高。图像的∈∈随机面积裁剪比例的区间为(0.92,0.99)，即，Scrop/Spad∈(0.92,0.99)，其中Scrop表示裁剪图像的面积，Spad表示填充图像的面积。
lovasz-softmax loss
03-16
lovasz-softmax损失是一种用于多类别图像分割的损失函数，它是基于lovasz扩展的概念和softmax函数的组合而来的。它可以解决传统的交叉熵损失函数在处理不平衡数据时的问题，能够更好地处理类别不平衡和边界模糊的情况。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值