pytorch/mxnet模型tensorrt部署
pytorch/mxnet模型tensorrt部署流程转onnx问题记录tensorrt问题记录
本文用于记录pytorch/mxnet模型使用tersorrt的整个流程以及遇到的坑。
tensorrt支持TensorFlow的uff和onnx以及自定义模型的推理加速,对于pytorch有第三方接口torch2trt项目,但是这个需要定义好模型在加入,不能把模型和tensorrt分离
import torch
from torch2trt import torch2trt
from torchvision.
原创
2020-09-07 15:11:06 ·
4210 阅读 ·
4 评论