关于torch.jit.trace在yolov8中出现的问题

已于 2023-06-29 13:55:31 修改
阅读量565 收藏 1
点赞数 1
文章标签： 深度学习 pytorch 人工智能
于 2023-06-29 13:55:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/abcdzgh/article/details/131454773
版权

关于torch.jit.trace在yolov8中出现的问题

疑问：

1）为什么yolov8不能直接torch.jit.trace，需要经过图像检测后才能，且检测后self.net发生变化；而2中的第一版yolov5可以直接torch.jit.trace

2）3中的第二版yolov5初始不能直接torch.jit.trace，用了两种方式后，都能了，但两种方式却不是相同的，那他们哪一点共同点，导致都能转模型了呢

1.yolov8

self.net

在这里插入图片描述

此时，直接torch.jit.trace会报错

torch.jit.trace(self.net, torch.rand((1, 3, 640, 640)), strict=False)

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-z6YmQW7G-1688017560648)(D:\otherdocuments\typora\images\image-20230629132150376.png)]

但增加一步检测图片后，可以实现

self.net(torch.rand((1, 3, 640, 640)))

在这里插入图片描述

torch.jit.trace(self.net, torch.rand((1, 3, 640, 640)), strict=False)

在这里插入图片描述

此时的self.net发生变化，如shape从none变为torch.size([1,128,80,80])

在这里插入图片描述

2.对比yolov5

self.net

在这里插入图片描述

此时，直接torch.jit.trace不会报错

torch.jit.trace(self.net, torch.rand((1, 3, 640, 640)), strict=False)

在这里插入图片描述

先增加一步检测图片，在看self.net，无变化

在这里插入图片描述
在这里插入图片描述

3.对比另一版yolov5的export

直接torch.jit.trace(model, img)会报错

torch.jit.trace(model, img)

在这里插入图片描述

此时的model

在这里插入图片描述

1）运行一步

model.model[-1].export = True  # set Detect() layer export=True

之后就可以torch.jit.trace

在这里插入图片描述

此时的model.model[-1]中的export有False变为True

在这里插入图片描述

2）或者增加一步检测

model(img)

在这里插入图片描述

接着torch.jit.trace成功

在这里插入图片描述

但此时model.model[-1]中的export还是False

在这里插入图片描述

abcdzgh
关注
torch.jit.trace 消除TracerWarning
驽马十驾，功在不舍；锲而不舍，金石可镂。
06-19 1万+
torch.jit.trace TracerWarning技巧1.尽量不要用tensor.shape/torch.size()1.1 生成新的tensor1.2 if/while语句中2.比较两个单元素的tensor3.使用参数strict=False4.其他参考文献 在使用torch.jit.trace时，经常会碰到如下warning： TracerWarning: Converting a tensor to a Python boolean might cause the trace to be i
torch.jit保存，加载模型
jacke121的专栏
04-09 7752
ori_backbone.eval() x = torch.randn(1,3,112,112).cuda() traced_cell = torch.jit.trace(ori_backbone, (x)) torch.jit.save(traced_cell, os.path.join(MODEL_ROOT, "Epoch_{}_Time_{}_checkpoint.pth".format(epoch + 1, get_time()))) model=torch.jit.load(spath..
使用pytorch torch.jit.trace转换模型时出错“xxx has no attribute xxx“
03-03 1667
在使用torch.jit.trace方法转换模型时，对于方法中的if和循环控制流是没办法处理的，这样就会出现只要产生该模块时默认都会有这个参数，但是在有些利用if来控制模型结构的地方是没有这个属性的，因此报错。 解决办法：利用torch.jit.script方法转换 ...
YOLOv8由pt文件中读取模型信息
pengxiang1998的博客
08-05 1502
Pytorch的pt模型文件中保存了许多模型信息，如模型结构、模型参数、任务类型、批次、数据集等在先前的YOLOv8实验中，博主发现YOLOv8在预测时并不需要指定任务类型，因为这些信息便保存在pt模型中，那么，今天我们便来看看，其到底是如何加载这些参数的。我们首先对pt。
使用torch.jit.trace另存模型为TorchScript格式出现的问题
weixin_46986751的博客
06-04 640
②检查模型导入时的设置，有些模型训练和测试调用的forward函数不同，导入模型时只需将相关参数设置成训练即可，以ssd.pytorch为例。像上述ssd返回的就是一个list，可以改成return output[0]，返回第一个值即可解决。，可以将后处理过程单独定义一个函数，模型推理完再调用该函数进行后处理；①将后处理过程（Detect、NMS等，具体看报错的是哪个函数）从。解决方式：检查模型forward函数的返回值是否为Tensor。字面解释：无法导出“Detect”函数，需要将其移除。
pytorch torch.jit.trace()使用模型转换要注意的问题
xingtianyao的博客
09-28 1万+
https://www.jianshu.com/p/8206b198533d 如果代码中有if条件控制，尽量避免使用torch.jit.trace来转换代码，因为它不能处理变化条件，如果非要用trace的话，可以把if条件控制改成别的形式，比如： def f(x): if x > 0: return False else: return True 可以改成: def f(x): return x <= 0 jit不能转换第三方Py...
torch.jit.trace与torch.jit.script
bug404
10-23 1170
torch.jit.trace与torch.jit.script是将PyTorch eager model转为script model的API，可显著提高推理的性能
怎么把yolo5.s.pt转换成yolov5s.torchscript.pt
05-05
model_torchscript = torch.jit.trace(model, torch.rand(1, 3, 640, 640)) # 保存模型 torch.jit.save(model_torchscript, 'yolov5s.torchscript.pt') ``` 其中，`yolo5.s.pt`为原始的yolov5s模型文件，`yolov5s....
yolov5s.torchscript.pt模型文件生成
09-10
4. 导出模型：使用torch.jit.trace函数将加载的模型转换为torchscript模式。该函数会将模型前向计算的图表达为脚本代码。 5. 保存模型：使用torch.jit.save函数将转换后的模型保存为yolov5s.torchscript.pt模型文件...
yolov8模型导出为nn.model
05-24
要将 YOLOv8 模型导出为 nn.model 文件，您可以使用 PyTorch 提供的 torch.jit 包。下面是一个示例代码： ```python import torch from models.yolov8 import YOLOv8 # 加载模型 model = YOLOv8(num_classes=80, ...
torch.jit.trace与checkpoint.checkpoint冲突：Could not export Python function call ‘CheckpointFunction‘.
weixin_42421591的博客
03-06 493
torch.jit.trace与checkpoint.checkpoint冲突：Could not export Python function call 'CheckpointFunction'.
Trace-based JIT简介(对Method JIT的改进)
08-22
IBM的一份对Method JIT和Trace JIT说明的文档。
torch.jit.trace详解
qq_44815135的博客
05-15 1390
torch.jit.trace() 是 PyTorch 中用于模型跟踪（tracing）的函数。跟踪是将模型转换为 TorchScript 表示的过程，它将模型的操作序列记录下来，并生成一个可以在 TorchScript 环境下运行的优化版本。func：一个包含模型前向传播逻辑的函数，可以是模型的 forward() 方法或任何能够在输入上执行前向传播的函数。example_inputs：模型的示例输入，用于跟踪过程。它可以是单个张量、元组或列表，用于匹配模型接受的输入。
TorchScript (将动态图转为静态图)(模型部署)(jit)(torch.jit.trace)(torch.jit.script)
hxxjxw的博客
10-18 1万+
TorchScript是Pytorch模型（继承自nn.Module）的中间表示，可以在像C++这种高性能的环境中运行 TorchScript是一种从PyTorch代码创建可序列化和可优化模型的方法。任何TorchScript程序都可以从Python进程中保存，并加载到没有Python依赖的进程中。 常和torch.jit合起来用 ......
捕获神经网络的精髓：深入探索PyTorch的torch.jit.trace方法
最新发布
2401_85812026的博客
08-27 648
方法通过记录一个模型在给定输入下的行为来工作。它捕获模型的执行路径，包括所有操作和它们对应的权重，生成一个序列化的表示，这个表示可以被进一步用于模型的部署和加速。
torch.jit.trace笔记
Endeavour_DYL的博客
08-09 567
torch.jit.trace 出现的问题及解决
[Pytorch 源码阅读] ——torch.trace.jit 接口 C++ 源码阅读
Chris_zhangrx的博客
08-23 3553
文章目录前言torch::jit::TypeClassTypec10::ivalue::Objecttorch::jit::Objecttorch::jit::Module转化过程总结 前言 本文主要是从 torch.jit.trace 接口，打开 Pytorch JIT 的大门，介绍在正常 nn.module 经过 Trace 之后形成 scriptModule 的过程和涉及到的 C++ 类，因为涉及到的内容蛮多的，所以这里就从源码的角度介绍了一些相对比较重要，或者是可以帮助我们理解的类。 在开始学习之前
pytorch JIT浅解析
热门推荐
The space of Shining
01-16 4万+
概要   Torch Script中的核心数据结构是ScriptModule。 它是Torch的nn.Module的类似物，代表整个模型作为子模块树。 与普通模块一样，ScriptModule中的每个单独模块都可以包含子模块，参数和方法。 在nn.Modules中，方法是作为Python函数实现的，但在ScriptModules方法中通常实现为Torch Script函数，这是一个静态类型的Pyt...
torch.jit.script 与 torch.jit.trace
leoatliang的博客
07-02 6154
它们是 PyTorch 的即时编译（Just-in-Time Compilation）模块的一部分，用于提高模型的执行效率并支持模型的部署。方法只跟踪了给定输入张量的执行路径，因此在使用转换后的模块对象进行推理时，输入张量的维度和数据类型必须与跟踪时使用的相同。跟踪模型可以看作是一个具有相同功能的脚本模型，但它还保留了原始模型的动态特性，可以使用更多高级特性，如动态图和控制流。它接受一个模型和一个示例输入，并记录模型在给定输入上的执行过程，然后返回一个跟踪模型。的模型文件，并将其转换为评估模式。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值