pytorch转为onnx格式,以及加载模型的params和GFLOPs方法

pytorch转为onnx格式:

def Torch2Onnx(model,input_size,output_name,istrained=True):
    '''
    :param: model
    :param: input_size .e.t. (244,244)
    :param: output_name .e.t. "test_output"
    :param: if convert a trained model or not. default: True
    '''
    x = Variable(torch.randn(1,3,input_size[0],input_size[1])).cuda()
    if istrained:
        torch_out = torch.onnx.export(model,x,output_name,verbose=True)
    else:
        torch_out = torch.onnx.export(model,x,output_name,export_params=False,verbose=True) # Only export a untrained model.

使用举例:

model = model()
model.load_state_dict(torch.load(weight_path))
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)
input_size = (384,288)
Torch2Onnx(model,input_size,"test.onnx")

获取model中的params:

请注意:不同的方法默认model在cpu还是在cuda上是不一样的,如果出现类似RuntimeError: Input type (torch.FloatTensor) and weight type (torch.cuda.FloatTensor) should be the same的报错,请检查weight是否应该在cuda上。

方法一:使用torchsummary
  1. 使用pip安装torchsummary:
    pip install torchsummary

  2. 代码片段:

    from torchsummary import summary
    model = model()
    model.load_state_dict(torch.load(weight_path))
    device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
    model = model.to(device)
    summary(model,(3,384,288))
    

torchstat结果示意

方法二:使用torchstat
  1. 使用pip安装torchstat:
    pip install torchstat

  2. 代码片段(和summary差不多)

    from torchstat import stat
     model = model()
     model.load_state_dict(torch.load(weight_path))
     device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
     stat(model,(3,384,288))
    

torchsummary结果示意

方法三:使用thop(不太推荐)
  1. 使用pip安装thop:
    pip install thop

  2. 代码片段:

    from thop import profile,clever_format
    model = model()
     model.load_state_dict(torch.load(weight_path))
     device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
     flops, params = profile(model,inputs=())
     flops,params = clever_format(flops,params,"%.3f")
    
  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 5
    评论
PyTorch是一个基于Python的开源机器学习库,它提供了丰富的工具和接口,用于构建和训练深度神经网络模型PyTorch的设计理念是简洁、灵活和易于使用,它支持动态图机制,使得模型的构建和调试更加直观和灵活。 PyTorch的主要特点包括: 1. 动态图机制:PyTorch使用动态图机制,允许用户在模型构建过程中进行实时调整和调试,提供了更好的灵活性和可读性。 2. 自动求导:PyTorch提供了自动求导功能,可以自动计算张量的梯度,简化了反向传播算法的实现。 3. 强大的GPU加速支持:PyTorch可以利用GPU进行计算加速,提供了丰富的GPU加速操作接口,使得深度学习模型的训练更加高效。 4. 丰富的预训练模型库:PyTorch提供了丰富的预训练模型库,包括常用的图像分类、目标检测、语义分割等任务的预训练模型,方便用户进行迁移学习和快速原型开发。 ONNX(Open Neural Network Exchange)是一个开放的深度学习模型交换格式,它的目标是实现不同深度学习框架之间的模型互操作性。ONNX定义了一个中间表示(Intermediate Representation,IR),可以将不同框架训练的模型转换为统一的ONNX格式,然后在其他框架中加载和执行。 ONNX的主要特点包括: 1. 跨平台和跨框架:ONNX可以在不同的深度学习框架之间进行模型转换和迁移,使得模型可以在不同的平台上运行。 2. 高性能推理:ONNX定义了一套高效的推理引擎,可以在不同硬件平台上实现高性能的模型推理。 3. 扩展性:ONNX支持自定义运算符和扩展,可以方便地集成新的运算符和功能。
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值