![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
tensorRT学习
萘和
物有本末,事有终始,知所先后,则近道矣
展开
-
TensorRT学习(3):加载engine文件进行推理
1. 加载pointNet引擎文件并创建引擎对象// 加载引擎文件 std::string engine_name = "./pointnet.engine"; std::ifstream file(engine_name, std::ios::binary); if (!file.good()) std::cerr << "文件无法打开,请确定文件是否可用!" << std::endl; size_t size = 0; file.seekg(0, file.end原创 2022-03-21 22:13:18 · 5426 阅读 · 2 评论 -
TensorRT学习(2):使用C++API构建引擎
TensorRT学习(1) 使用C++API构建引擎1. 创建项目2. 打开项目属性页,添加所需包含目录、库目录以及链接器输入。包含目录:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\include库目录:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\lib\x64链接器输入:nvinfer.lib nvinfer_plugin.lib cudart.lib原创 2022-03-21 20:59:00 · 3029 阅读 · 1 评论 -
TensorRT学习(1):通过pth生成wts文件
TensorRT学习(1):通过pth生成wts文件1. pth文件简介pth文件是pytorch保存模型的一种方式,该文件只保存模型的参数。模型参数实际上一个字典类型,通过key-value的形式存储。2. wts文件格式示例(来自wang-xinyu大佬的github)第一行代表该文件有多少行,不包括它本身。之后每行格式为: [weight name] [value count = N] [value1] [value2], ..., [valueN]10 conv1.weight原创 2022-03-17 15:42:51 · 4306 阅读 · 8 评论