正负样本不平衡----＞Focal Loss（笔记）

最新推荐文章于 2024-06-30 18:15:04 发布
最新推荐文章于 2024-06-30 18:15:04 发布
阅读量525 收藏
点赞数
分类专栏： 论文笔记 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46239293/article/details/120161648
版权
本文详细介绍了目标检测中正负样本的定义，正样本是与gt中心点IOU最大的anchor，负样本是与所有gt最大IOU小于ignore_thres的anchor。同时，文章探讨了Focal Loss如何解决正负样本不平衡问题，强调其在难易分类样本上的权重调整作用。
摘要由CSDN通过智能技术生成

添加链接描述
添加链接描述

在这里插入图片描述
简单来说，正样本 就是对于gt center point 所落在 的 grid 网格 所生成的 anchors 中与 gt 计算出最大的IOU的 anchor。
负样本就是预测框 与所有的 gt 计算得到的最大IOU，如果 < ignore_thres ,就是负样本。
上方图片表诉中括号的意为：一个anchor可能既是正样本又是负样本。

Focal Loss 其实很简单来说就是平衡了，正负样本不平衡，难分类样本，易分类样本的不平衡。
请添加图片描述

落了一地秋
关注
专栏目录
目标检测的Tricks | 【Trick3】IoU loss与focal loss（包含一些变体介绍）
Clichong
04-17 2882
如有错误，恳请指出。 这里介绍一下IoU loss与focal loss函数，之前的文章也有提及到，这里就不再过多的细说了。简单来说： IoU loss：用来计算pred box与ground true之间的差异，用来边界框损失函数的计算； focal loss：用来平衡正负样本不均衡的问题，由RetinaNet提出使用与One-Step目标检测算法上的一个技巧 关于这两部分的详细介绍可以见之前的博文：YOLOv4中的tricks概念总结——Bag of freebies 然后，后续有不少大佬对fo.
『NLP学习笔记』Cross Entropy Loss 的硬截断、软化到 Focal Loss
AI新视界
04-12 1715
对于二分类模型，我们总希望模型能够给正样本输出 1，负样本输出 0，但限于模型的拟合能力等问题，一般来说做不到这一点。而事实上在预测中，我们也是认为大于 0.5 的就是正样本了，小于 0.5 的就是负样本。这样就意味着，我们可以 “有选择” 地更新模型，比如，设定一个阈值为 0.6，那么模型对某个正样本的输出大于 0.6，我就不根据这个样本来更新模型了，模型对某个负样本的输出小于 0.4，我也不根据这个样本来更新模型了，只有在 0.4~0.6 之间的，才让模型更新，这时候模型会更 “集中精力” 去关心那些
处理样本不平衡LOSS—Focal Loss
kkkkk0826的专栏
01-06 2646
0 前言 Focal Loss是为了处理样本不平衡问题而提出的，经时间验证，在多种任务上，效果还是不错的。在理解Focal Loss前，需要先深刻理一下交叉熵损失，和带权重的交叉熵损失。然后我们从样本权重的角度出发，理解Focal Loss是如何分配样本权重的。Focal是动词Focus的形容词形式，那么它究竟Focus在什么地方呢？(详细的代码请看Gitee)。 1 交叉熵 1.1 交叉熵...
正负样本不均衡
丰brother的博客
05-05 2917
样本不均衡 类别不均衡是指在分类学习算法中，不同类别样本的比例相差悬殊，它会对算法的学习过程造成重大的干扰。比如在一个二分类的问题上，有1000个样本，其中5个正样本，995个负样本，在这种情况下，算法只需将所有的样本预测为负样本，那么它的精度也可以达到99.5%，虽然结果的精度很高，但它依然没有价值，因为这样的学习算法不能预测出正样本。这里我们可以知道不均衡问题会导致样本较少那一类的高错分率，即...
正负样本不平衡问题
weixin_30827565的博客
09-19 1013
什么是类不平衡问题 类不平衡（class-imbalance）是指在训练分类器中所使用的训练集的类别分布不均。比如说一个二分类问题，1000个训练样本，比较理想的情况是正类、负类样本的数量相差不多；而如果正类样本有995个、负类样本仅5个，就意味着存在类不平衡。 在后文中，把样本数量过少的类别称为“少数类”。 但实际上，数据集上的类不平衡到底有没...
机器学习模型构建时正负样本不平衡带来的问题及解决方法
benjamin.li的小屋
01-31 1万+
在机器学习模型构建的时候，我们往往会遇到数据样本正负比例极其不平衡的情况，例如在征信模型或者判断客户购买商品是否使用分期时，往往正负样本比达到10:1，这样会造成许多实际问题。 样本不均衡会导致：对比例大的样本造成过拟合，也就是说预测偏向样本数较多的分类。这样就会大大降低模型的范化能力。往往accuracy（准确率）很高，但auc很低。 解决办法： 1.上采样： 增加样本数较少的样本，其方
不均衡样本的loss
weixin_43444314的博客
09-21 319
这个是tf.nn.weighted_cross_entropy_with_logits(labels,logits, pos_weight, name=None) 还有focalloss之前有写过
Focal loss
m0_63520910的博客
05-15 381
generalized focal loss论文笔记见 为什么提出focal foss 是因为先验框，对于一阶段目标检测器，存在非常多的先验框，因为它会将输入的图片划分为不同大小的网格，然后网格里包括很多先验框。比如SSD，包含了8732个先验框，但是只有五六个先验框真实包含目标，即正样本，所以导致了正负样本非常不平衡，SSD采取的方法控制正负样本的比例，使为1:3，有一定效果，但有待改进。Focal loss提出利用权重来控制正负样本。 什么是Focal loss Focal loss是何恺明大神
论文笔记：RetinaNet（Focal Loss for Dense Object Detection）
牛顿爱吃香蕉的博客
05-10 2130
文章目录1、摘要2、介绍3、相关研究3、焦点损失3.1、平衡交叉熵3.2、焦点损失定义3.3、类不平衡和模型初始化3.4、类不平衡和 two-stage 检测器4、RetinaNet 检测器4.1、训练 1、摘要 one−stageone-stageone−stage 检测器对目标可能的位置进行密集采样，相比于 two−stagetwo-stagetwo−stage 方法更简单、速度更快，但是精度...
focal loss论文笔记(附基于keras的多类别focal loss代码)
Mmm_Zzz的博客
08-18 5681
一.focal loss论文 Focal Loss for Dense Object Detection 二.focal loss提出的目的 解决one-stage目标检测是场景下前景和背景极度不平衡的情况（1：1000） 让模型在训练的时候更加关注hard examples（前景）。 另外two-stage的检测器是用一下两个方法来解决类别不平衡问题的： 提取候选框的过程实际上...
计算机视觉之正负样本不均衡问题
黄小黄的窝
10-21 2918
Anchor-based的目标检测器通过Anchor来得到一系列密集的候选框，然后按照一定阈值将候选框分成真样本（前景）和负样本（背景），最后按照一定的采样策略来进行训练。目标检测中广泛采用的采样策略是随机采样（正样本和负样本按照一定比例随机采样），然而随机采样并不能保证能够选取得到更有价值的样本（使检测器更鲁棒）。 在探索更有效的采样策略的过程中，产生了两类方法： Hard Sampling：从所有候选样本中选择子集来训练模型。（包含hard negative mining、OHEM、IoU-balanc
正负样本不平衡处理方法总结
热门推荐
年轻即出发，
12-29 4万+
1， Bootstrapping，hard negative mining 最原始的一种方法，主要使用在传统的机器学习方法中。 比如，训练随机森林，对于每一个树就是采样booststraping方法采样，也算是随机森林的其中一个随机性表现。再比如bagging方法，也是基于该有放回重采样方法。 比如，SVM分类中去掉那些离分界线较远的样本，只保留离分界线较近的样本。 2， heurist...
特征工程 - 当你遇到正负样本不均
ZhuNian的学习乐园
12-03 1689
特征工程 - 当你遇到正负样本不均
正负样本不均衡解决方案
cuisidong1997的博客
11-11 665
因为不同的算法适用于不同的任务与数据，应该使用不同的算法进行比较。1、对于正负样本极不平衡的场景，我们可以换一个完全不同的角度来看待问题：把它看做一分类（one class learning） 或异常检测问题，这类方法的重点不在于捕捉类间的差别，而是为其中一类进行建模，比较有代表性的是 one-class-SVM。通过正负样本的惩罚权重解决样本不均衡的问题的思想是在算法实现过程中，对于分类中不同样本数量的类别分别赋予不同的权重（一般思路分类中的小样本量类别权重高，大样本量类别权重低），然后进行计算和建模。
正负样本不均衡的解决办法
fly_Xiaoma的博客
04-14 6668
机器学习中，最重要的一个过程就是模型训练，但是在做模型训练之前需要对数据进行预处理也就是常见的数据清洗和特征工程。 数据清洗过程中，比较重要的一步就是查看正负样本是否均衡。 那么数据集中出现正负样本不均衡，怎么解决呢？ 常用的有一下几种方法： 采样，采样主要包括上采样（oversampling，有的称为过采样）和下采样（undersampling，有的称为降采样） 数据合成，利用已有样本...
深入解析目标检测中的正负样本不平衡问题及其解决方案
最新发布
2402_85761468的博客
06-30 1245
在目标检测任务中，正样本指的是包含目标对象的样本，而负样本则指不包含目标对象的样本。正负样本不平衡指的是在训练数据集中，负样本的数量远大于正样本的数量，导致模型倾向于预测负样本，从而降低对正样本的检测准确性。
目标检测中的样本不均衡问题Focal Loss
种一棵树最好的时间是十年前，其次是现在
04-01 1096
分为正负样本不均衡、难易样本不均衡及类别间样本不均衡问题。 目标检测沿用了分类的思想，故目标检测继承了分类问题的样本不均衡情况。 正负样本不均衡： Faster Rcnn，一共生成20000个框，但一张图物体数量可能只有10个，即正样本只在90左右，其余均为负样本。这样，正样本的损失在损失函数之中，无法得到很好的体现。 难易不均衡问题： 结合样本的正负，可以分为难正（错分为负样本的正样本）、难负、易正及易负四大类。同样，易分样本数量远大于难分样本，使得难分样本的损失函数贡献降低。 分类问题样本不均衡： 对于
【机器学习】关于样本不均衡问题
CSDN_Black的博客
07-07 1099
参考：https://www.jianshu.com/p/be343414dd24问题解决难度：大数据+分布均衡&lt;大数据+分布不均衡&lt;小数据+数据均衡&lt;小数据+数据不均衡方法一：采样采样分为上采样和下采样：上采样会把小众样本复制多份，这样容易造成过拟合问题，解决方法是在重复样本中加入轻微的随机扰动下采样是随机选取大众类，使其和小众类有相同的样本，这样会造成模型的不完整，解决方法是...
正负样本与Bi-LSTM在文本相似度匹配中的应用
"基于正负样本和Bi-LSTM的文本相似度匹配模型，周艳平，朱小虎，青岛科技大学信息科学技术学院" 本文介绍了一种针对自然语言处理领域中的文本相似度匹配模型，该模型尤其适用于问答系统的答案抽取。在相似度匹配...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值