![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
TensorRt
文章平均质量分 84
薛定谔的智能
这个作者很懒,什么都没留下…
展开
-
torch版ResNet50(带有多输出)转c++ tensorrt
第一个最简单的lenet示例请参考这篇文章一.torch阶段测试图片:torch代码:# coding:utf-8import torchfrom torch import nnfrom torch.nn import functional as Fimport torchvisionimport osimport structimport timeimport cv2import numpy as npdef main(): print('cuda d.原创 2021-03-30 14:07:45 · 3854 阅读 · 9 评论 -
tensorrt基础知识+torch版lenet转c++ trt
1.优化流程:制作engine:大概就是c++api写的网络结构或者其他第三方格式,经过NetworkDefinition进行定义,采用builder加载模型权重,进行一些参数的优化,然后再用engine序列化成模型 。推理:采用engine反序列化,创建运行环境,在进行推理即可。参考:https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html#fit__fit1...原创 2021-01-15 16:32:27 · 2085 阅读 · 5 评论