【技能---如何正确导出onnx】

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


前言

提示:这里可以添加本文要记录的大概内容:


提示:以下是本篇文章正文内容,下面案例可供参考

注意事项

1.对于任何用到shape,size返回值的参数时,例如:tensor.view(tensor.size(0),-1)这类操作,避免直接使用tensor.size的返回值,而是加上int转换,tensor.view(int(tensor.size(0)),-1);

2.对于nn.Upsample或nn.functional.interpolate函数,使用scale_factor指定倍率,而不是使用size参数指定大小;

3.对于reshape、view操作时候,-1指定请放在batch维度。其他维度可以计算出来即可。batch维度禁止指定为大于-1的明确数字;

4.torch.onnx.export指定dynamic_axes参数,并且只指定batch维度。我们只需要动态batch,相对动态的宽高有其他方案;

5.使用opset_version=11,不要低于11;

6.掌握了这些,就可以保证后面各种情况的顺利了。

这些做法的必要性体现在,简化过程的复杂度,去掉gather、shape类的节点,很多时候,部分不这么改看似也是可以但是需求复杂后,依旧存在各类问题。按照说的这么做,基本可以。

案例说明

1. 使用 int 转换来避免直接使用 tensor.size 的返回值:

原始代码:

result = tensor.view(tensor.size(0), -1)

修改后的代码:

result = tensor.view(int(tensor.size(0)), -1)

解释: 使用 int 转换可以确保 tensor.size(0) 返回的结果是整数类型,避免在某些情况下可能导致的类型不匹配问题。

2. 使用 scale_factor 替代 size 参数:

原始代码:

upsampled_tensor = nn.functional.interpolate(input_tensor, size=(height, width))

修改后的代码:

upsampled_tensor = nn.functional.interpolate(input_tensor, scale_factor=(scale_height, scale_width))

解释: 使用 scale_factor 可以更直观地表示上采样的倍率,而不是直接指定目标大小。这样更易读且避免了手动计算目标大小的麻烦。

3. 将 -1 放在 view 操作的 batch 维度:

原始代码:

reshaped_tensor = tensor.view(batch_size, -1, height, width)

修改后的代码:

reshaped_tensor = tensor.view(batch_size, -1, height, width)

解释: 将 -1 放在 batch 维度可以更方便地根据张量的总大小自动计算其他维度的大小。这样可以避免手动计算其他维度的麻烦。

4. 使用 dynamic_axes 参数指定动态轴:

原始代码:

torch.onnx.export(net, dummy_input, onnx_path, dynamic_axes={'input': {0: 'batch_size', 1: 'sequence_length'}})

解释: 在 torch.onnx.export 中使用 dynamic_axes 参数,只指定 batch
维度,因为它是唯一需要动态变化的。其他轴,如序列长度,可以使用其他方案进行处理。

5. 使用 opset_version=11:

原始代码:

torch.onnx.export(net, dummy_input, onnx_path, opset_version=9)

修改后的代码:

torch.onnx.export(net, dummy_input, onnx_path, opset_version=11)

解释: 使用 opset_version=11 可以确保使用 ONNX 的较新功能和操作,提高模型的兼容性和性能。

6. 综合应用:

在综合应用上述建议时,可以考虑以下示例:

import torch
import torch.nn as nn

# 示例模型
class ExampleModel(nn.Module):
    def __init__(self):
        super(ExampleModel, self).__init__()
        self.fc = nn.Linear(100, 50)

    def forward(self, x):
        return self.fc(x)

# 示例输入
dummy_input = torch.randn(32, 100)

# 导出模型到ONNX
onnx_path = "example_model.onnx"
net = ExampleModel()
torch.onnx.export(
    net,
    dummy_input,
    onnx_path,
    opset_version=11,
    input_names=['input'],
    output_names=['output']
)

上述示例中,我们使用了 int 转换,避免了手动计算大小,使用了 scale_factor 替代了 size 参数,将 -1 放在了 view 操作的 batch 维度,指定了 dynamic_axes 参数,并设置了 opset_version=11。这样可以确保导出的ONNX模型在简化过程中更加稳定和清晰。


总结

以上就是导出onnx需要注意的一些地方,不足之处,还请大家斧正!!1

  • 16
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: YOLOv5是一种流行的目标检测算法,且具有轻量级版本YOLOv5-Lite。而ONNX是一种跨平台、高性能的深度学习模型表示格式。下面是关于YOLOv5-Lite模型转换为ONNX的描述: 首先,我们需要在本地安装好YOLOv5,并下载官方提供的权重文件。然后,通过运行以下命令在本地将权重文件转换为PyTorch模型: ``` python models/export.py --weights yolov5s.pt --img 640 --batch 1 ``` 接下来,我们可以运行以下命令将PyTorch模型转换为ONNX格式: ``` python -c "import torch; model = torch.hub.load('ultralytics/yolov5', 'custom', path='yolov5s.pt'); model.model[-1].export = torch.onnx.export(model.model[-1], torch.zeros(1, 3, 640, 640), 'yolov5s.onnx')" ``` 在这个命令中,我们首先加载了已经转换为PyTorch格式的YOLOv5-Lite模型,然后通过调用`export`属性来设置导出参数。我们创建了一个`torch.zeros`的输入张量,大小为1x3x640x640,作为模型的输入。最后,我们将模型保存为ONNX格式的文件`yolov5s.onnx`。 通过以上步骤,我们成功地将YOLOv5-Lite模型转换为了ONNX格式。这样,我们就可以在各种平台和框架上使用这个模型进行目标检测,如TensorFlow、Caffe等。同时,在ONNX格式的模型中,可以利用一些优化工具进一步优化模型的推理性能。 ### 回答2: YOLOv5-Lite是YOLOv5的一个轻量化版本,它具有更小的模型大小和更快的推理速度。在对YOLOv5-Lite模型进行ONNX转换时,需要先将模型从PyTorch格式转换为ONNX格式。 首先,我们需要确保已安装好PyTorch和ONNXPython库。接下来,可以使用以下步骤将YOLOv5-Lite模型转换为ONNX模型: 1. 下载YOLOv5-Lite的PyTorch模型文件。可以在YOLOv5的官方GitHub存储库中找到预训练的YOLOv5-Lite模型。 2. 导入所需的库:torch和torchvision。 3. 加载YOLOv5-Lite的PyTorch模型。使用torch.load函数加载模型文件,并将其放在eval模式下。 4. 创建一个示例输入张量。输入张量的形状应该与模型期望的输入大小相匹配。可以使用torch.randn函数创建一个具有正确形状的示例输入张量。 5. 使用torch.onnx.export函数将PyTorch模型转换为ONNX模型。该函数需要指定导出ONNX文件名、示例输入张量和其他可选参数,例如输出文件的输入名称和输出名称。 6. 检查转换后的ONNX模型是否已成功创建。可以通过在Python中加载ONNX模型并检查其结构来验证。 完成上述步骤后,YOLOv5-Lite模型将转换为ONNX格式,可以在各种ONNX兼容的平台上进行部署和推理。这包括使用ONNX运行时进行推理、将模型转换为OpenVINO格式以在Intel设备上运行等。 需要注意的是,每个模型的转换过程可能会有所不同,具体实现取决于所使用的库和框架版本。在进行模型转换之前,建议查阅相关文档和参考资料,并根据具体情况进行适当的调整和优化。 ### 回答3: YOLOv5-Lite是一种轻量级的物体检测模型,可以在计算资源有限的设备上进行高效的推理。将其转换为ONNX模型可以使其在各种平台和框架上进行部署和使用。 要将YOLOv5-Lite模型转换为ONNX模型,需要执行以下步骤: 1. 从YOLOv5的代码库中下载YOLOv5-Lite模型的权重文件(.pt格式)。 2. 使用PyTorch框架加载YOLOv5的模型权重并构建模型。 3. 将模型设置为推理模式,并将输入和输出的维度设置为合适的尺寸。 4. 使用torch.onnx.export方法将模型转换为ONNX格式。这个方法需要指定导出的模型、输入张量的形状和类型,以及导出ONNX模型的路径。 5. 确保安装了torch和onnx这两个Python库。 6. 运行转换代码,将YOLOv5-Lite模型转换为ONNX模型,并保存到指定路径。 转换后的ONNX模型可以在多个平台上进行部署和使用。可以使用ONNX Runtime库在各种设备上进行推理,包括CPU、GPU和边缘设备等。 总结来说,将YOLOv5-Lite转换为ONNX模型的过程包括下载权重文件、加载和构建模型、设置输入输出维度,然后使用torch.onnx.export方法将模型转换为ONNX格式。转换后的模型可以在不同平台上使用ONNX Runtime库进行推理。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值