YOLOv5系列(三十七) 深度理解Binary Cross-Entropy与YOLOv5 LOSS(从二值损失基本原理到YOLOv5损失)

已于 2025-04-25 09:13:11 修改
阅读量2k 收藏 33
点赞数 28
分类专栏： 人工智能（机器学习-深度学习-目标检测） 文章标签： 深度学习 人工智能 pytorch
于 2023-12-05 21:20:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44302770/article/details/134817470
版权

一，可视化理解Binary Cross-Entropy(推荐反复阅读)

介绍

如果你正在训练一个二分类器，很有可能你正在使用的损失函数是二值交叉熵/对数(binary cross-entropy / log)。

你是否想过使用此损失函数到底意味着什么？问题是，鉴于如今库和框架的易用性，很容易让人忽略所使用损失函数的真正含义。

动机

我一直在寻找一个可以向学生展示的以清晰简洁可视化的方式解释二值交叉熵/对数损失背后概念的博客文章。但由于我实在找不到，只好自己承担了编写的任务:-)

一个简单的分类问题

让我们从10个随机点开始：

x = [-2.2, -1.4, -0.8, 0.2, 0.4, 0.8, 1.2, 2.2, 2.9, 4.6]

这是唯一的特征：*x*

img

了解本专栏 订阅专栏 解锁全文
【深度学习】损失函数 理解 Cross-Entropy Loss, Binary Cross-Entropy Loss
q742971636的博客
04-16 3634
文章目录1 前言2 sigmoid激活函数 与 Softmax激活函数3 Cross-Entropy Loss二分类：sigmoid激活函数+Cross-Entropy Loss多分类：softmax激活函数+Cross-Entropy Loss 一篇好文：https://gombru.github.io/2018/05/23/cross_entropy_loss/ 1 前言 计算CE Loss 之前需要加softmax层，适用于多类预测 Multi-Class Classification，类间存在竞争关
YOLOv5系列(二十五) 本文(2万字) | 从二值损失基本原理到YOLOv5损失 | Binary Cross-Entropy | YOLOv5 LOSS |
专注于人工智能学习，总结
12-27 526
如果你正在训练一个二分类器，很有可能你正在使用的损失函数是二值交叉熵/对数(。你是否想过使用此损失函数到底意味着什么？问题是，鉴于如今库和框架的易用性，很容易让人忽略所使用损失函数的真正含义。神经网络对一张图像分割成的8080网格预测了38080个预测框，那么每个预测框都存在检测目标吗？显然不是。所以在训练时首先需要根据标签作初步判断，哪些预测框里面很可能存在目标？mask掩码为这样的一个3。
YOLOV5损失函数
qq_35326529的博客
12-10 2万+
classification loss 分类损失localization loss 定位损失，预测框和真实框之间的误差confidence loss 置信度损失，框的目标性总损失函数为三者的和 classification loss + localization loss + confidence loss也可以在三个损失前乘上不同的权重系数，已达到不同比重的结果。在yolov5中的置信度损失和分类损失用的是二元交叉熵来做的，而定位损失是用的CIOU Loss来做的在传统的多分类任务中，一般使用的是soft
yolov5 loss总结
Less is More
08-09 6986
box loss objectness loss class loss total loss
YOLOv5损失函数的解析
最新发布
浩瀚之水的专栏
03-27 1714
YOLOv5通过CIoU Loss提升定位精度、BCE Loss支持多标签分类、多尺度加权优化目标检测，形成了高效且鲁棒的损失计算体系。其设计兼顾了算法复杂度与检测性能，是目标检测领域的重要实践参考。
yolov5 loss部分
weixin_45054622的博客
07-15 1144
loss部分的代码虽然很少，但是它的难度很大，要结合yolov5的损失函数一起去查看，这样会更加容易理解。
yolov5 损失函数
李昂的博客
01-02 7621
作为一款尖端、最先进的（SOTA）车型，YOLOv8在之前版本的成功基础上，引入了新的功能和改进，以增强性能、灵活性和效率。当预测边框和真是边框的中心点重合时，DIOU退化成了传统IOU，综合了IOU的面积损失 、和DIOU的中心点损失和自身宽高比损失三种优势。（2）对比IOU损失，L2和Giou具有偏离趋势度量的能力，当IOU=0时，交和不交的损失是一样的，L2和GIOU就不会这样。2、对于网络的3个头的输出匹配正样本，筛选GT和anchor符合条件的高宽比，大于就是正样本反就是负样本。
目标检测 YOLOV5：loss介绍
猫猫与橙子的博客
11-18 6484
BCEWithLogitsLoss和FocalLoss的源码和数学推理介绍
【AI面试】分类损失横评：CrossEntropy Loss 、Balanced Cross Entropy、 Dice Loss 和 Focal Loss
钱多多先森
05-24 1823
分类损失学习汇总
sklearn基于make_scorer函数为Logistic模型构建自定义损失函数+代码实战（二元交叉熵损失 binary cross-entropy loss）
data+scenario+science+insight
08-08 723
sklearn基于make_scorer函数为Logistic模型构建自定义损失函数+代码实战（二元交叉熵损失 binary cross-entropy loss） # 广义线性模型中的各种连接函数； # 二元交叉熵公式； # 代码实现 import numpy as np from sklearn import linear_model, datasets from sklearn.model_selection import GridSearchCV from s...
YOLOV5代码精读之损失函数（loss.py）
浩瀚之水的专栏
09-29 1725
device = next(model.parameters()).device # 获取模型的设备h = model.hyp # 获取超参数设定# 定义损失标准# 类别标签平滑self.cp, self.cn = smooth_BCE(eps=h.get('label_smoothing', 0.0)) # 正负BCE目标# 焦点损失g = h['fl_gamma'] # 焦点损失的伽玛值if g > 0:m = de_parallel(model).model[-1] # 取出检测模块。
YOLOV5中损失函数即代码讲解
m0_47831326的博客
04-22 1万+
YOLOV5中损失函数即代码讲解 yolov5中一共存在三种损失函数： 分类损失cls_loss：计算锚框与对应的标定分类是否正确 定位损失box_loss：预测框与标定框之间的误差（CIoU） 置信度损失obj_loss：计算网络的置信度 ...
从YOLOv5源码loss.py详细介绍Yolov5的损失函数
HollowKnightz的博客
01-07 8261
深度学习笔记:YOLOv5源码阅读
yolov5部分loss部分代码解析
qq_42362891的博客
03-07 4360
文章目录 前言 前言 主要是关于loss计算的代码，之前阅读了几篇博主的文章，并观察了代码的每一步结果，现在谈一下自己对这部分代码的理解。 1.build_targets #这里na为锚框种类数 nt为目标数 这里的na为3，nt也为3 na, nt = self.na, targets.shape[0] # number of anchors, targets #类别 边界盒 索引 锚框 tcls, tbox, indices, anch = [], [], [], [] #利用g.
Yolov5系列(3)-loss解析
weixin_45483906的博客
04-27 1万+
Abstract 在yolov5中,loss在训练中起到了决定性的作用,同时,yolov5的loss又与大部分传统的方法不同,它是基于网格的.在网格上生成相应的anchor框和其对应的cls以及conf,同时,box loss还采用了CIOU的方式来进行回归,很好的提高了回归的速度.并且针对传统yolo中正样本不足的情况.它还采用了,它还利用了一种样本扩充的策略,很大的提高了其最终的检测精度 Introduction 1.yolov5划定正负样本 yolov5会将最终的输出划分为一个w*h的网格. 对于每一
yolov5 loss函数理解
athrunsunny的博客
12-17 7084
不同于IOU匹配，yolov5采用基于宽高比例的匹配策略，GT的宽高与anchors的宽高对应相除得到ratio1，anchors的宽高与GT的宽高对应相除得到ratio2，取ratio1和ratio2的最大值作为最后的宽高比，该宽高比和设定阈值（默认为4）比较，小于设定阈值的anchor则为匹配到的anchor。2、Objectness loss，obj置信度损失，采用BCE loss，计算的是所有样本的obj损失。1、Classes loss，分类损失，采用BCE loss，只计算正样本的分类损失。
YOLOv5损失函数定义
热门推荐
WZT725的博客
04-01 4万+
YOLOv5的三种损失函数
目标检测: 一文读懂 YOLOV5 Loss 正样本采样
weixin_46142822的博客
03-29 1万+
前言 YoloV5中loss由正样本和负样本两部分loss组成，负样本对应着图像的背景，如果负样本远多于正样本，则负样本会淹没正样本的损失，从而降低网络收敛的效率与检测精度。这就是目标检测中常见的正负样本不均衡问题，解决方案之一是增加正样本数。 Yolo anchor_based 系列使用的loss公式如下： 公式中： SSS： S×SS×SS×S 个网格； BBB：每个网格产生 BBB 个候选框anchor box； 1i,jobj1_{i,j}^{obj}1i,jobj​： 如果在 i,ji,ji,j
Binary Cross-Entropy Loss, BCELoss
03-09
### Binary Cross-Entropy Loss (BCELoss) 的定义 Binary Cross-Entropy Loss 是一种用于二分类问题的损失函数，在机器学习领域广泛应用。该损失函数衡量的是预测概率分布与真实标签之间的差异程度。对于单个样本而言，如果 \( y \in {0, 1} \)，则 BCE 可表示为： \[ L(y,\hat{y})=-\left[y\log(\hat{y})+(1-y)\log(1-\hat{y})\right] \] 其中 \( y \) 表示真实的类别标签（0 或者 1），\( \hat{y} \) 则代表模型给出的概率估计值。 当处理多个训练样例时，则通常会计算所有样例上的平均损失作为最终的目标函数来优化[^4]。 ### 使用场景 此损失函数特别适用于那些输出可以被解释为某个事件发生的概率的任务中，比如垃圾邮件检测、广告点击率预估等。它能够有效地惩罚错误分类的情况，并且随着预测值接近实际值而逐渐减小。 ### 实现例子 下面是一个简单的 Python 函数实现 binary cross entropy loss 计算过程: ```python import numpy as np def bce_loss(y_true, y_pred): """ Compute the binary cross-entropy loss between true labels and predicted probabilities. Args: y_true: Array-like structure containing actual class labels (either 0 or 1). y_pred: Array-like structure with corresponding probability estimates from model output. Returns: float: The computed average binary cross-entropy across all samples. """ epsilon = 1e-7 # To prevent log(0) y_pred_clipped = np.clip(y_pred, epsilon, 1 - epsilon) losses = -(y_true * np.log(y_pred_clipped) + (1 - y_true) * np.log(1 - y_pred_clipped)) return np.mean(losses) ``` 上述代码实现了对给定的真实标签 `y_true` 和预测概率 `y_pred` 进行 binary cross entropy loss 的计算，并返回这些样本上损失值得均值。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小酒馆燃着灯

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值