Fast RCNN中位置损失为何使用Smooth L1

最新推荐文章于 2021-08-08 17:11:14 发布
最新推荐文章于 2021-08-08 17:11:14 发布
阅读量184 收藏
点赞数
分类专栏： AI面试题 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42440990/article/details/115690372
版权

Smooth L1的表达式为 S m o o t h L 1 ( x ) = { 0.5 x 2 , if  ∣ x ∣  < 1 ∣ x ∣ − 0.5 , otherwise Smooth_{L_1(x)}=\begin{cases} 0.5x^2, & \text {if $|x|$ < 1} \\ |x|-0.5, & \text{otherwise} \end{cases} SmoothL1​(x)​={0.5x2,∣x∣−0.5,​if ∣x∣ < 1otherwise​

  • 作者这样设置的目的是想让loss对于离群点更加鲁棒，相比于L2损失函数，其对离群点、异常值（outlier）不敏感，可控制梯度的量级训练时不容易跑飞。
Yu十三
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
smoothl1函数_r-cnn学习（五）：SmoothL1LossLayer论文与代码的结合理解
weixin_28994767的博客
01-30 363
A Loss Function for Learning Region Proposals训练RPN时，只对两种anchor给予正标签：和gt_box有着最高的IoU && IoU超过0.7。如果对于所有的gt_box，其IoU都小于0.3，则标记为负。损失函数定义如下：其中i为一个mini-batch中某anchor的索引，pi表示其为目标的预测概率,pi*表示gt_box(正为...
目标检测为什么使用SmoothL1损失
Lavi的专栏
08-18 4842
首先来看L1 Loss和L2 loss： 从上面的导数可以看出，L2 Loss的梯度包含 (f(x) - Y)，当预测值 f(x) 与目标值 Y 相差很大时，容易产生梯度爆炸，而L1 Loss的梯度为常数，通过使用Smooth L1 Loss，在预测值与目标值相差较大时，由L2 Loss转为L1 Loss可以防止梯度爆炸。 Fast RCNN首先提出了smooth L1损失函数： 如上面的公式...
fast-r-cnn论文中个为什么使用smooth_L1 (x)，smooth_l1是什么？
小白的博客
06-27 578
先把论文中这部分描述摘抄过来，如下图所示： 假设我们不适用smooth_L1,考虑L2函数 其梯度为 那么会出现一个原文描述的问题，when the regression targets are unbounded,既x很大的时候，会发生梯度爆炸，再考虑L1函数 此时会出现另外一个问题，当x变化很小的时候，梯度依旧很大，此时函数很有可能无法收敛（除非你控制学习率降低的更多，但是这样手工智能显然有点蠢。） 既然L2和L1都有缺点，那么我们各取其优点，结合起来会怎么样呢？ ..
Faster RCNN和SSD使用smoothL1函数【回归目标框】
Doraemon_Zzn的博客
06-13 377
smooth L1损失函数主要用来回归2D or 3D 的BBOX。 smooth L1 loss能从两个方面限制梯度： 当预测框与 ground truth 差别过大时，梯度值不至于过大； 当预测框与 ground truth 差别很小时，梯度值足够小。 如下： 对x进行求导 可以看到x比较小的时候，smooth L1的梯度也很小。然而，x比较大的时候，对x的梯度的绝对值上限就是1，很好控制了网络参数，避免梯度爆炸。 参考 faster RCNN 和 SSD 中为什么用smooth L1 loss，和
Faster-RCNN中关于Log损失函数以及smooth_L1函数的理解
Christo的博客
08-08 726
1，背景 文中有红色线条标出的内容，初看不是很理解，今天就一探究竟。 2，什么是log loss? 直接上图上定义，原来log loss 是一种被广泛用于描述两种离散概率分布的损失函数。 3，什么是smooth L1函数？ 要了解smooth L1函数，我们首先来了解下L1函数，L1损失函数的表达式如下： L1(y^,y)=∑i=1n∣y^−y∣ L_1(\hat y,y) = \displaystyle\sum_{i=1}^n|\hat y - y| L1​(y^​,y)=i=1∑n​∣y^​−y∣
ubuntu14.04下编译运行fast rcnn
05-27
解决方法：修改 SmoothL1Loss.cpp 中的代码，将 has_weights=(bottom.size()>=3) 改为 has_weights=(bottom.size()==3)，并注释掉相关的 if 语句。 为编译和运行 Fast R-CNN 需要安装相关依赖项，解决可能遇到的...
fast rcnn git
02-14
分类任务使用softmax损失，定位任务则采用Smooth L1损失，这种损失函数对离群值较为鲁棒，能有效减少训练难度。 四、Fast R-CNN的优化 Fast R-CNN通过共享卷积层的计算，极大地提升了速度，相比于R-CNN的几个小时...
matconvnet fast_rcnn_train程序理解
08-20
5. **损失函数**：Fast R-CNN的损失函数通常由两部分组成，即分类交叉熵损失和回归的Smooth L1损失。通过反向传播，这两个损失共同优化网络权重。 6. **训练策略**：在MatConvNet中，`fast_rcnn_train`会采用随机...
Pytorch十九种损失函数的使用详解
12-20
除了上述损失函数，PyTorch还提供了其他如MSELoss for regression（回归任务）、SmoothL1Loss（平滑L1损失，结合了L1和MSE的优点）、MultiLabelMarginLoss（多标签分类的边界损失）、TripletMarginLoss（三元组损失...
目标检测之Loss：FasterRCNN中的SmoothL1Loss
BigCowPeking
04-03 1万+
多任务损失（来自Fast R-CNN） multi-task数据结构Fast R-CNN网络有两个同级输出层（cls score和bbox_prdict层），都是全连接层，称为multi-task。① clsscore层：用于分类，输出k+1维数组p，表示属于k类和背景的概率。对每个RoI（Region of Interesting）输出离散型概率分布通常，p由k+1类的全连接层利用softmax...
为什么Faster-rcnn、SSD中使用Smooth L1 Loss 而不用Smooth L2 Loss
ytusdc的博客
01-26 7389
知乎上的一篇文章说的很详细：https://www.zhihu.com/question/58200555 首先看L1 loss 和 L2 loss 定义： 写成差的形式，f(x) 为预测值， Y 为 groud truth 对于L2 Loss：当 x 增大时 L2 损失对 x 的导数也增大。这就导致训练初期，预测值与 groud truth 差异过于大时，损失函数对预测值...
针对Faster RCNN具体细节以及源码的解读之SmoothL1Loss层
热门推荐
xyy19920105的博客
12-28 2万+
从今天开始，阅读faster rcnn的相关代码，并记录我对faster rcnn中特别的层的理解。本篇主要是对smooth_L1_Loss层进行解读。 RBG大神认为CPU版本的太慢了，故有些操作CPU版压根就没有实现。smooth_L1_Loss是Faster RCNN提出来的计算距离的loss，文章中提到对噪声点更加鲁棒。 输入四个bottom，分别是predict，target，insi
faster rcnn的源码理解（一）SmoothL1LossLayer论文与代码的结合理解
野孩子的专栏
05-19 1万+
源码： // ------------------------------------------------------------------ // Fast R-CNN // Copyright (c) 2015 Microsoft // Licensed under The MIT License [see fast-rcnn/LICENSE for details] // Writte
fasterrcnn论文_机器学习-Faster RCNN的损失函数(Loss Function)
weixin_39897070的博客
11-25 1118
Faster RCNN的损失函数(Loss Function)的形式如下:p(i): Anchor[i]的预测分类概率；Anchor[i]是正样本时,p(i)*=1；Anchor[i]是负样本时，p(i)*=0;什么是正样本与负样本满足以下条件的Anchor是正样本：与Ground Truth Box的IOU(Intersection-Over-Union) 的重叠区域最大的Anchor；与Gou...
Fast-RCNN总结
nuohanfengyun的博客
08-30 9127
原文地址：http://blog.csdn.net/qq_17448289/article/details/52871461 一、基于Region Proposal（候选区域）的深度学习目标检测算法 Region Proposal（候选区域），就是预先找出图中目标可能出现的位置，通过利用图像中的纹理、边缘、颜色等信息，保证在选取较少窗口（几千个甚至几百个）的情况下保持较高的召回率（IoU，In...
Fast R-CNN论文解读-将RCNN的多段训练合并为一段，使用RoI池化层统一尺度-最大优点是训练与检测速度快
appleclub666的博客
10-09 1720
作者：WXY 日期：2020-9-5 论文期刊：Ross Girshick Microsoft Research Sep 2015 标签：Fast RCNN 一、写在前面的话 Fast R-CNN基于之前的RCNN，用于高效地目标检测，运用了一些新的技巧，是训练速度、测试速度、准确率都提升。Fast R-CNN训练了一个VGG 16网络，但训练速度比RCNN快9被，测试速度快213倍，同时在PASCAL VOC上有更高的准确率，相比SPPnet，它的训练速度快3倍，测试速度快10倍。 之前的模型为了实现目标
从源码解读Faster-RCNN--(4)位置预测分类网络和损失函数
u013241583的博客
01-13 922
上面那一篇文章，我们介绍了RPN网络，这一篇我们重点介绍对产生的rois处理的位置预测以及分类网络，和损失函数。 位置预测以及分类网络 得到训练的候选框 接着上一篇文章，先看代码trainer.py： #trainer.py sample_roi, gt_roi_loc, gt_roi_label = self.proposal_target_creator( roi, ...
Fast(er) rcnn的损失函数总结
恋蛩音的博客
09-10 1万+
Fast R-CNN Fast RCNN将分类与回归做到了一个网络里面，因此损失函数必定是多任务的： 其中分类任务还是我们常用的对数损失， 对数损失, 即对数似然损失(Log-likelihood Loss), 也称逻辑斯谛回归损失(Logistic Loss)或交叉熵损失(cross-entropy Loss), 是在概率估计上定义的.它常用于(multi-nominal, 多项)逻辑...
Fast R-CNN 简单梳理
时光杂货店
11-07 8009
Fast R-CNN 简单梳理作者：xg123321123出处：http://blog.csdn.net/xg123321123/article/details/53067518声明：版权所有，转载请联系作者并注明出处Fast R-CNN是R-CNN的改进版。1 亮点 Fast R-CNN将整张整张图片归一化之后直接送入深度网络，邻接时才加入候选框信息，只有末尾的少数几层才处理每个候选框；相比之下，
将faster rcnn中的smooth l1损失函数修改为iou loss损失函数，并给出代码
最新发布
06-08
将 Faster R-CNN 中的 smooth L1 loss 修改为 IoU loss 可以尝试如下代码实现： ```python import torch def iou_loss(pred_bbox, gt_bbox, eps=1e-6): """ Compute IoU loss between predicted bboxes and ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值