外卖猿
这个作者很懒,什么都没留下…
展开
-
yolov5 实例分割:从原理、构建数据集到训练部署
分享yolov5原理、构建数据集到部署的全过程。原创 2024-06-09 19:43:23 · 794 阅读 · 0 评论 -
混合精度训练
下图是使用FP32训练Multibox SSD detector network时梯度的直方图。当这些数据用FP16进行表示时,很大一部分FP32表示时的非零值,就会变成0。这将会导致一些权重无法实现更新,进而导致模型不收敛。为了防止FP16表示时很多梯度数据为0的问题,就需要使用 loss scaling。下图灰色曲线代表不使用loss scaling,进行混合精度训练时不收敛。中的一张图,来说明 loss scaling的必要性。原创 2024-02-22 18:19:02 · 476 阅读 · 0 评论 -
深度学习加速之剪枝、知识蒸馏
Pruning Techniques for Deep Neural Networks1.参考文献1.structured pruning和unstructured pruning区别见下图:参考文献[1] https://pytorch.org/tutorials/intermediate/pruning_tutorial.html[2] https://opendatascience.com/what-is-pruning-in-machine-learning/[3] https://j原创 2022-07-28 18:16:09 · 1066 阅读 · 1 评论 -
onnx实现pytorch模型推断及量化
本博客提供了使用onnx实现 pytorch resnet101模型的量化和推断。原创 2023-12-16 18:27:28 · 1042 阅读 · 0 评论 -
使用tensorrt加速深度学习模型推断
此博客介绍如何将resnet101模型在CIFAR100数据集的分类任务,使用tensorrt部署。完整代码如下。原创 2023-12-03 18:40:36 · 543 阅读 · 0 评论 -
pytorch 模型量化quantization
此博客结合CIFAR100数据集分类任务,分别采用和对resnet101模型进行量化。原创 2023-12-03 18:36:53 · 1344 阅读 · 0 评论 -
torch.jit.trace 消除TracerWarning
torch.jit.trace TracerWarning技巧1.尽量不要用tensor.shape/torch.size()1.1 生成新的tensor1.2 if/while语句中2.比较两个单元素的tensor3.使用参数strict=False4.其他参考文献在使用torch.jit.trace时,经常会碰到如下warning:TracerWarning: Converting a tensor to a Python boolean might cause the trace to be i原创 2021-06-19 14:49:28 · 14064 阅读 · 10 评论 -
c++调用pytorch libtorch(YoloV3实战篇)
c++调用pytorch libtorch (YoloV3实战篇)1.前言2.直接使用仓库源码c++ libtorch输出结果与pytorch结果差别大3.关于nms参考文献1.前言此blog主要介绍本人在使用yolov3模型进行c++ libtorch 调试过程中遇到的一些问题。Yolo-v3模型的介绍可参考深入拆解YOLO_V3,这里仍旧使用的是GitHub eriklindernoren/PyTorch-YOLOv3。c++调用pytorch libtorch基础介绍可参考https://原创 2021-07-21 17:37:19 · 1377 阅读 · 11 评论 -
c++调用pytorch libtorch(基础篇)
c++调用pytorch libtorch1.将pytorch模型转换成Torch Script参考文献以GitHub [见参考文献1]为例,学习了c++调用pytorch API libtorch的实现过程。1.将pytorch模型转换成Torch Script官方tutorial https://pytorch.org/tutorials/advanced/cpp_export.html中给出了当前将pytorch模型转成Torch Script的两种方式(官方源码如下):1.Converti原创 2021-06-21 10:33:01 · 3358 阅读 · 2 评论