TensorRT
maidabu
这个作者很懒,什么都没留下…
展开
-
TensorRT IPlugin基类源码解析
TensorRT IPulgin基类源码中的注释已经比较详细,这儿只是在原来的基础上进行一些补充注释,便于后续进一步解释caffe其他各层Plugin代码的实现。class IPlugin{public: /** * \brief get the number of outputs from the layer * * \return the number of outputs...原创 2018-08-26 15:14:10 · 1740 阅读 · 0 评论 -
caffe Reshape层TensorRT IPlugin代码实现
目前TensorRT并不支持caffe的Reshape层,故在用TensorRT加速caffe网络时,Reshape需要通过TensorRT的plugin插件实现。以下是Reshape层的Plugin源码:#include <cuda_runtime.h>#include "NvInferPlugin.h"#define CHECK(status)\ {\ ...原创 2018-09-01 17:57:17 · 2862 阅读 · 1 评论 -
caffe Softmax层TensorRT IPlugin代码实现
TensorRT只支持对channel通道的softmax,对其他通道不支持,而SSD中的softmax不是对channel通道的分类,故要想实现对SSD的TensorRT加速,需要手动编写softmax层的IPugin代码。//Softmax layer . TensorRT softmax only support cross channelclass SoftmaxPlugin : ...原创 2018-09-16 15:37:14 · 1512 阅读 · 7 评论