【技能---如何正确导出onnx】

本文介绍了在使用PyTorch将模型转换为ONNX格式时,应避免直接使用tensor.size,推荐使用int转换、scale_factor、动态轴指定等技巧,以及设置opset_version为11以确保模型兼容性和性能。通过实例展示了如何综合应用这些改进方法。
摘要由CSDN通过智能技术生成

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


前言

提示:这里可以添加本文要记录的大概内容:


提示:以下是本篇文章正文内容,下面案例可供参考

注意事项

1.对于任何用到shape,size返回值的参数时,例如:tensor.view(tensor.size(0),-1)这类操作,避免直接使用tensor.size的返回值,而是加上int转换,tensor.view(int(tensor.size(0)),-1);

2.对于nn.Upsample或nn.functional.interpolate函数,使用scale_factor指定倍率,而不是使用size参数指定大小;

3.对于reshape、view操作时候,-1指定请放在batch维度。其他维度可以计算出来即可。batch维度禁止指定为大于-1的明确数字;

4.torch.onnx.export指定dynamic_axes参数,并且只指定batch维度。我们只需要动态batch,相对动态的宽高有其他方案;

5.使用opset_version=11,不要低于11;

6.掌握了这些,就可以保证后面各种情况的顺利了。

这些做法的必要性体现在,简化过程的复杂度,去掉gather、shape类的节点,很多时候,部分不这么改看似也是可以但是需求复杂后,依旧存在各类问题。按照说的这么做,基本可以。

案例说明

1. 使用 int 转换来避免直接使用 tensor.size 的返回值:

原始代码:

result = tensor.view(tensor.size(0), -1)

修改后的代码:

result = tensor.view(int(tensor.size(0)), -1)

解释: 使用 int 转换可以确保 tensor.size(0) 返回的结果是整数类型,避免在某些情况下可能导致的类型不匹配问题。

2. 使用 scale_factor 替代 size 参数:

原始代码:

upsampled_tensor = nn.functional.interpolate(input_tensor, size=(height, width))

修改后的代码:

upsampled_tensor = nn.functional.interpolate(input_tensor, scale_factor=(scale_height, scale_width))

解释: 使用 scale_factor 可以更直观地表示上采样的倍率,而不是直接指定目标大小。这样更易读且避免了手动计算目标大小的麻烦。

3. 将 -1 放在 view 操作的 batch 维度:

原始代码:

reshaped_tensor = tensor.view(batch_size, -1, height, width)

修改后的代码:

reshaped_tensor = tensor.view(batch_size, -1, height, width)

解释: 将 -1 放在 batch 维度可以更方便地根据张量的总大小自动计算其他维度的大小。这样可以避免手动计算其他维度的麻烦。

4. 使用 dynamic_axes 参数指定动态轴:

原始代码:

torch.onnx.export(net, dummy_input, onnx_path, dynamic_axes={'input': {0: 'batch_size', 1: 'sequence_length'}})

解释: 在 torch.onnx.export 中使用 dynamic_axes 参数,只指定 batch
维度,因为它是唯一需要动态变化的。其他轴,如序列长度,可以使用其他方案进行处理。

5. 使用 opset_version=11:

原始代码:

torch.onnx.export(net, dummy_input, onnx_path, opset_version=9)

修改后的代码:

torch.onnx.export(net, dummy_input, onnx_path, opset_version=11)

解释: 使用 opset_version=11 可以确保使用 ONNX 的较新功能和操作,提高模型的兼容性和性能。

6. 综合应用:

在综合应用上述建议时,可以考虑以下示例:

import torch
import torch.nn as nn

# 示例模型
class ExampleModel(nn.Module):
    def __init__(self):
        super(ExampleModel, self).__init__()
        self.fc = nn.Linear(100, 50)

    def forward(self, x):
        return self.fc(x)

# 示例输入
dummy_input = torch.randn(32, 100)

# 导出模型到ONNX
onnx_path = "example_model.onnx"
net = ExampleModel()
torch.onnx.export(
    net,
    dummy_input,
    onnx_path,
    opset_version=11,
    input_names=['input'],
    output_names=['output']
)

上述示例中,我们使用了 int 转换,避免了手动计算大小,使用了 scale_factor 替代了 size 参数,将 -1 放在了 view 操作的 batch 维度,指定了 dynamic_axes 参数,并设置了 opset_version=11。这样可以确保导出的ONNX模型在简化过程中更加稳定和清晰。


总结

以上就是导出onnx需要注意的一些地方,不足之处,还请大家斧正!!1

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值