小知识点系列(十四) 本文(3万字) | 解深度解读损失函数 | CrossEntropy | BCE | BCEWithLogits | NLL |MSE | L1 |

最新推荐文章于 2024-06-15 06:51:38 发布
最新推荐文章于 2024-06-15 06:51:38 发布
阅读量966 收藏 18
点赞数 22
文章标签： YOLO 深度学习 人工智能 损失函数 BCELoss MSELoss
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44302770/article/details/135308536
版权
人工智能专栏计划 专栏收录该内容
141 篇文章 7 订阅

已下架不支持订阅

点击进入专栏：
《人工智能专栏》 Python与Python | 机器学习 | 深度学习 | 目标检测 | YOLOv5及其改进 | YOLOv8及其改进 | 关键知识点 | 各种工具教程

文章目录

  • 概述
  • CrossEntropyLoss
    • 0.Quick Start
    • 1.参数
    • 2.计算过程
    • 3.损失函数输入及输出的Tensor形状
      • 3.1简单情况（一个样本）
      • 3.2多个样本（一个batch）
      • 3.3三维情况（多样本+多通道）
  • BCELoss和BCEWithLogitsLoss以及CrossEntropyLoss
    • 前言
    • BCELoss原理
    • BCELoss实操
      • 二分类情况
      • 多分类情况
    • CrossEntropyLoss
    • BCEWithLogitsLoss
    • 对比三种交叉熵损失函数
  • Smooth L1 Loss
    • Smooth L1 Loss的公式
    • 特点
    • 应用
  • torch.nn.NLLLOSS
    • 一、torch.nn.NLLLOSS运算规则
    • 二、与torch.nn.CrossEntropyLoss的区别
    • 1. 机器学习
    • 2. 深度学习与目标检测
    • 3. YOLOv5
    • 4. YOLOv5改进
    • 5. YOLOv8及其改进
    • 6. Python与PyTorch
    • 7. 工具
    • 8. 小知识点
    • 9. 杂记

官网
torch.nn - PyTorch中文文档 (pytorch-cn.readthedocs.io)

概述

损失函数 torch.nn 用途 特点 应用场景
交叉熵损失 CrossEntropyLoss 多分类问题 当模型对真实类别的预测概率低时，损失迅速增加 适用于分类任务，特别是输出层使用Softmax函数时
二元交叉熵损失 BCELoss
BCEWithLogitsLoss		 二分类问题
了解本专栏 已下架不支持订阅
小酒馆燃着灯
关注
  • 22
    点赞
  • 踩
  • 18
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录

已下架不支持订阅

Pytorch中torch.nn的损失函数
12-21
目录 前言 一、torch.nn.BCELoss(weight=None, size_average=True) 二、nn.BCEWithLogitsLoss(weight=None, size_average=True) 三、torch.nn.MultiLabelSoftMarginLoss(weight=None, size_average=True) 四、总结 前言 最近使用Pytorch做多标签分类任务，遇到了一些损失函数的问题，因为经常会忘记（好记性不如烂笔头囧rz），都是现学现用，所以自己写了一些代码探究一下，并在此记录，如果以后还遇到其他损失函数，继续在此补充。 如果有兴趣，我建
【Pytorch】BCELoss和BCEWithLogitsLoss损失函数详解
01-07
在Pytorch中，BCELoss和BCEWithLogitsLoss是一组常用的二元交叉熵损失函数，常用于二分类问题，其区别在于前者的输入为已进行sigmoid处理过的值，而后者为sigmoid函数11+exp⁡(−x)\frac{1}{1+\exp(-x)}1+exp(−x)1​中的xxx。 下面为一个简单的示例： import torch import torch.nn as nn predicts = torch.tensor([[0.4,0.7,1.2,0.3], [1.1,0.6,0.9,1.6]]) labels = torch.tensor([[1,0,1,0],[0,1,1,
细数nn.BCELoss与nn.CrossEntropyLoss的区别
09-17
今天小编就为大家整理了一篇细数nn.BCELoss与nn.CrossEntropyLoss的区别，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
深度学习损失函数原理分析（三） 深度学习原理.pdf
04-13
本文主要介绍三种常用的深度学习损失函数：BCELoss、BCEWithLogitsLoss和HingeEmbeddingLoss。 1. BCELoss BCELoss是二分类交叉熵损失函数，主要用于二分类问题。其公式为： L(y, y^) = -[y\*log(y^) + (1-y)\*...
快速编译安装tensorrt_yolo
最新发布
FL1623863129的博客
06-15 217
通过 PyPI 安装模块，您只需执行以下命令即可：如果您希望获取最新的开发版本或者为项目做出贡献，可以按照以下步骤从 GitHub 克隆代码库并安装：git clone https://github.com/laugh12321/TensorRT-YOLO # 克隆代码库在以上步骤中，您可以先克隆代码库并进行本地构建，然后再使用pip安装生成的 Wheel 包，确保安装的是最新版本并具有最新的功能和改进。Deploy。
（1）图像识别yolov5—安装教程
qq_26043945的博客
06-12 51
首先，你需要在你的计算机上下载的文件包，。下载后对压缩文件进行解压。通常使用识别物体，需要安装必要的，如PyTorch、torchvision、OpenCV等。打开YOLOv5文件夹，在里面打开 “” 文件，里面就是必要的依赖项。然后打开命令行，进入当前文件目录（我这里保存到盘的中）。然后通过下面的指令，系统自动安装这些依赖库。
Yolov9比其他yolo版本的改进
Littro Innovations
06-09 122
1. **可逆函数角度的分析**：YOLOv9从可逆函数的角度理论上分析了现有的CNN架构，基于这种分析，设计了PGI（可编程梯度信息）和辅助可逆分支，取得了优秀的结果。8. **效率、准确性和适应性的提高**：YOLOv9引入了开创性技术，如PGI和GELAN，这标志着实时目标检测领域的重大进步，提高了模型的效率、准确性和适应性。5. **性能提升**：YOLOv9在MS COCO数据集上的性能在所有方面都大大超过了现有的实时目标检测器，显示出速度和精度上的显著提升。
海思SD3403,SS928/926,hi3519dv500,hi3516dv500移植yolov7,yolov8（21）Yolov9s测试
Littro Innovations
06-09 220
yolov9s.pt为例，pt模型大小为，有yolov9-s.pt 和 yolov9-s-converted.pt 两个模型，一个19M，一个14M，先不管这俩区别是什么了。同一张图拿到yolov8s里测试，我都不用最新的8.2版本ultralytics，用旧的8.0版本，阈值参数设置一样，conf = 0.25，iou = 0.45。现在总算是开源t,s模型，而且这里评估的结果上来看是好于yolov8的，那就测试看看到底怎么样。大小是37.1M，比yolov8s的onnx模型是要小 4M左右。
yolov10主要特点
yzf060109的专栏
06-14 573
以下是YOLOv10与其他模型的快速对比：YOLOv10-S：46.3 AP，2.49毫秒延迟YOLOv10-M：51.1 AP，4.74毫秒延迟YOLOv10-L：53.2 AP，7.28毫秒延迟YOLOv10-X：54.4 AP，10.70毫秒延迟这些改进使YOLOv10成为实时目标检测任务的首选，从自动驾驶到智能监控。与YOLOv9-C相比，YOLOv10-B（一个平衡的变体）延迟减少了46%，参数量减少了25%，同时保持了相同的性能水平。一对多分配：在训练过程中使用，以提供丰富的监督信号。
YOLOv10涨点改进｜引入BoTNet结构与CA注意力机制，打造高效轻量级检测器
“365天深度学习训练营”报名进行中～
06-13 56
👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！
yolo-inference多后端+多任务+多算法+多精度模型 框架开发记录(cpp版)
taifyang的博客
06-12 529
该接口类的思路很简单，即一个名为YOLOv5的基类，定义了抽象业务接口如前处理pre_process()、模型推理process()和后处理post_process()需要在派生类中进行具体实现。不知不觉LZ已经快工作两年了，由于之前的工作内容主要和模型部署相关，想着利用闲暇时间写一些推理方面的经验总结，于是有了这个工程。其实本来也是自己写了玩的，不过已经陆续迭代半年多了，期间也通过借签优秀代码吸收了经验，索性总结一下心得~
【YOLOv8改进[CONV]】使用MSBlock二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图 + 轻量化 + 涨点
静谧、淡雅
06-11 49
使用MSBlock二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图 + 轻量化 + 涨点
YOLOV5总结
JIA_NG_FA_N的博客
06-11 966
Focus模块在v5中是图片进入backbone前，对图片进行切片操作，具体操作是在一张图片中每隔一个像素拿到一个值，类似于邻近下采样，这样就拿到了四张图片，四张图片互补，长的差不多，但是没有信息丢失，这样一来，将W、H信息就集中到了通道空间，输入通道扩充了4倍，即拼接起来的图片相对于原先的RGB三通道模式变成了12个通道，最后将得到的新图片再经过卷积操作，最终得到了没有信息丢失情况下的二倍下采样特征图。与FPN类似，PAN也是一种金字塔式的特征提取网络，但是它采用的是自下而上的特征传播方式。
小目标检测篇 | YOLOv8改进之空间上下文感知模块SCAM + 超轻量高效动态上采样DySample
突然好想你
06-12 85
小目标检测是计算机视觉领域中的一个研究方向，旨在从图像或视频中准确地检测和定位尺寸较小的目标物体。相比于常规目标检测任务，小目标检测更具挑战性本篇文章就给大家介绍如何在YOLOv8中利用空间上下文感知模块SCAM和超轻量高效动态上采样DySample对其进行改进。🌈
[数据集][目标检测]减速带检测数据集VOC+YOLO格式5400张1类别
FL1623863129的博客
06-14 377
数据集格式：Pascal VOC格式+YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)重要说明：图片有对同一个减速带拍摄情况，且拍摄时间都集中在下午5点以后或者晚上时间。特别声明：本数据集不对训练的模型或者权重文件精度作任何保证，数据集只提供准确且合理标注。图片数量(jpg文件个数)：5400。标注数量(xml文件个数)：5400。标注数量(txt文件个数)：5400。使用标注工具：labelImg。标注规则：对类别进行画矩形框。
【YOLOv8改进[CONV]】使用DynamicConv二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图
静谧、淡雅
06-11 310
使用DynamicConv二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图
【YOLOv10改进[CONV]】使用DynamicConv二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图 + 全网首发
静谧、淡雅
06-11 220
使用DynamicConv二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图 + 全网首发 + 魔改 + 遥遥领先
【YOLOv8】初识篇
VAN的博客
06-12 147
【YOLOv8】初识篇
（3）图像识别yolov5—训练自定义模型
qq_26043945的博客
06-13 43
YOLOv5 是一个用于目标检测的深度学习模型，它非常流行且易于使用。
l1loss bceloss mseloss nllloss bcewithlogitsloss crossentropyloss jaccardloss mseloss
03-16
crossentropyloss：交叉熵损失函数，用于多分类问题，计算预测值与真实值之间的交叉熵。 jaccardloss：Jaccard损失函数，用于图像分割问题，计算预测值与真实值之间的Jaccard相似度。 mseloss：均方误差（MSE）...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小酒馆燃着灯

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值