TensorRT
和TensorRT相关的知识
NeverMoreH
^_^
展开
-
TensorRT学习笔记1 - 环境配置
目录版本选择安装过程 版本选择 ubuntu 16.04LTS tensorrt 5.1.5 cuda 9.0.176 cudnn 7.5.0 ...原创 2019-07-24 15:08:27 · 1195 阅读 · 0 评论 -
TensorRT学习笔记2 - 基础知识
目录TensorRT是什么TensorRT怎么用相关链接 TensorRT是什么 大家或多或少都训练过神经网络,比如LeNet、YOLO、SSD等。我们也都知道,模型的训练速度和测试速度大幅依赖于GPU的性能。但是如果想在生活中使用这些方法(目标检测、人脸识别等),比如在手机中使用目标检测方法,我们不可能在手机中安装一个GPU集群。但是不用GP...原创 2019-07-24 16:02:28 · 908 阅读 · 0 评论 -
TensorRT学习笔记7 - 保存与读取序列化的结果
目录保存序列化的结果读取序列化的结果 我们使用TensorRT转化Caffe模型时,每次都要使用如下代码将模型序列化,之后再进行反序列化,才可以进行inference。但是build engine的过程是十分耗时的,我们可以将序列化的结果保存至本地,以后直接读取本地的序列化结果即可,无需build engine,这样可以节省很多时间。 // ...原创 2019-07-29 16:33:17 · 5100 阅读 · 3 评论 -
TensorRT学习笔记3 - 运行sampleMNIST
目录遇到的问题 遇到的问题 ERROR: cudnnEngine.cpp (56) - Cuda Error in initializeCommonContext: 4 解决办法:加sudo权限执行指令 ImportError:...原创 2019-07-24 20:00:12 · 4240 阅读 · 1 评论 -
TensorRT学习笔记4 - 运行sampleGoogleNet
目录代码解析遇到的问题 先占个坑,有时间补。 代码解析 遇到的问题 ...原创 2019-07-24 20:04:16 · 717 阅读 · 0 评论 -
TensorRT学习笔记5 - 运行fc_plugin_caffe_mnist
目录遇到的问题 遇到的问题 在cmake时出现variables NOTFOUND,如下图所示: 解决办法:在cmake时对他们的目录进行指定 &n...原创 2019-07-24 20:19:42 · 1547 阅读 · 0 评论 -
TensorRT学习笔记6 - IPlugin
目录简介成员函数 简介 IPlugin是一个类,用于实现自定义层(custom layer),我们可以继承这个类,然后实现它的成员函数。在使用IPlugin时,要include <NvInfer.h> 成员函数 configure virtual void nvinfer1:...原创 2019-07-25 20:23:51 · 1901 阅读 · 1 评论