focal loss的一些思考

最新推荐文章于 2023-11-21 21:28:30 发布
最新推荐文章于 2023-11-21 21:28:30 发布
阅读量909 收藏 5
点赞数 1
分类专栏： 算法 机器学习 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/q5390498/article/details/120352784
版权
本文探讨了分类器的性能与focal loss的关系，分析了focal loss如何平衡正负样本权重，特别是在处理大量易样本时的作用。随着训练进行，分类器变强，easy样本增加，静态的gamma可能不适应，提出了动态调整gamma以适应模型性能变化的思路，为focal loss的优化提供了新的方向。
摘要由CSDN通过智能技术生成

focal loss的一些思考

关于分类器

分类器是通常输出的是属于某一类的概率。通常来说，一个强的分类器在预测的分数上很好的区分样本，一个弱的分类器则容易混淆。我们用两个高斯分布来假设分类器预测的分数的分布，则对于强分类器，如下图1所示，对于弱分类器，如下图2所示，这里我们用两个高斯分布去表示正负样本的预测分布，左边的为负样本，右边的为正样本。
图1 强分类器的预测分布
图1 强分类器的预测分布
图2弱分类器的预测分布
图2 弱分类器的预测分布

显然，如果输入的特征比较不可分，那么训练出来的分类器就越弱；模型的表述能力越差，训出来的分类器也越弱。

focal loss

最低0.47元/天 解锁文章
time_exceed
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
损失函数解读 之 Focal Loss
黎国溥
01-24 2万+
前言 Focal loss 是一个在目标检测领域常用的损失函数，它是何凯明大佬在RetinaNet网络中提出的，解决了目标检测中正负样本极不平衡和 难分类样本学习的问题。 论文名称：Focal Loss for Dense Object Detection 目录 什么是正负样本极不平衡？ two-stage 样本不平衡问题 one-stage 样本不平衡问题 交叉熵 损失函数 Focal Loss 代码实现Pytorch 什么是正负样本极不平衡？ 目标检测算法为了定位目标会...
Focal Loss的理解以及在多分类任务上的使用(Pytorch)
热门推荐
zhaoguanhua的博客
12-17 3万+
理解关键点一 二分类和多分类的交叉熵的区别 二分类交叉熵 多分类交叉熵 理解关键点二 多分类和二分类focal loss 理解关键点三 alpha到底该如何设置
Focal Loss损失函数
lxk2017的博客
04-14 3386
Focal loss
【代码实践】focal loss损失函数及其变形原理详细讲解和图像分割实践（含源码）
最新发布
BluErroR的博客
11-21 5633
Focal loss损失函数的定义和应用，一篇文章给你讲透原理，包含在图像分割领域的代码实践！
focal loss
01-10
读Focal Loss for Dense Object Detection这篇论文 做的一个总结讲解ppt
focal loss曲线-python
08-14
通过python脚本构造focal loss曲线；焦点损失函数是重加权的一个典型代表，被广泛应用于目标检测和语义分割。
Focal Loss for Dense Object Detection
12-03
Abstract The highest accuracy ...the focal loss, RetinaNet is able to match the speed of pre- vious one-stage detectors while surpassing the accuracy of all existing state-of-the-art two-stage detectors.
pytorch实现focal loss的两种方式小结
09-18
今天小编就为大家分享一篇pytorch实现focal loss的两种方式小结，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
focal loss.py
05-12
对于类别不平衡的loss函数
【深度学习 | 计算机视觉】Focal Loss原理及其实践（含源代码）
wzk4869的博客
07-15 4464
【深度学习 | 计算机视觉】Focal Loss原理及其实践（含源代码）
一文读懂Focalloss
weixin_42273095的博客
05-15 6865
Focal loss解决了什么问题？降低易分样本权重、增加难分样本的权重训练。
Focal Loss介绍
chase
06-11 2342
Focal Loss介绍
Focal Loss 简介
gaoxueyi551的专栏
02-28 1874
一、背景 目标检测可分为两阶段和一阶段算法两种，两种类别各有优缺点。 两阶段算法包含候选区域生成阶段和分类阶段，区域生成阶段负责生成候选区域，并过滤掉大部分的背景区域，虽然对训练效率大打折扣，但前景区域提取的相对准确，且前景和背景比例基本协调，精度因此一般很高。 一阶段算法省去了候选区域生成阶段，因此效率很高，但是基于滑动窗口的方式生成了大量的候选区域，导致背景区域数量显著多于前景区域，背景区域相对前景区域更容易区分，在大量容易区分的背景区域上进行模型训练无法捕捉到有效的分类信......
Focal Loss
fly_time2012的专栏
03-11 751
Focal Loss 摘要 Focal Loss目标是解决样本类别不平衡以及样本分类难度不平衡等问题，如目标检测中大量简单的background，很少量较难的foreground样本。Focal Loss通过修改交叉熵函数，通过增加类别权重𝛼α和 样本难度权重调因子(modulating factor)(1−𝑝𝑡)𝛾(1−pt)γ，来减缓上述问题，提升模型精确。 一、技术背景 我们知道object detection的算法主要可以分为两大类：two-stage detector和one-stage.
Focal loss的Pytorch实现
qq_29056645的博客
06-08 7832
1.Focal Loss介绍 Focal loss是在CrossEntropy基础上进行改进的，主要解决了训练中正负样本重要性不均衡的问题。首次提出是在论文 《Focal Loss for Dense Object Detection》中，作者Kaiming He的出发点是想解决样本的类别不均衡导致的one-stage和two-stage的表现差异问题。 2.损失函数公式 ...
focal loss详解
うさぎ的博客
09-09 1736
focal loss详解
【深度学习】focal loss介绍
chen1234520nnn的博客
06-24 4616
目录 一、focal loss解决的问题： 二、focal loss的两个重要性质： 一、focal loss解决的问题： 因此针对类别不均衡问题，作者提出一种新的损失函数：focal loss 这个损失函数是在标准交叉熵损失基础上修改得到的。可以通过减少易分类样本的权重，使得模型在训练时更专注于难分类的样本。 1.1 普通交叉熵 1.2 交叉熵基本改进版 接下来介绍一个最基本的对交叉熵的改进，也将作为本文实验的baseline，既然one-stage detector在训练的时候正负样

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值