我看到一个例子做了如下的事情。有必要修改pluginfactory类吗?或者已经用python插件api完成了?在import tensorrt
import tensorrtplugins
from tensorrt.plugins import _nv_infer_plugin_bindings as nvinferplugin
from tensorrt.parsers import caffeparser
plugin_factory = tensorrtplugins.FullyConnectedPluginFactory()
parser = caffeparser.create_caffe_parser()
parser.set_plugin_factory(plugin_factory)
engine = trt.utils.caffe_to_trt_engine(G_LOGGER,
MODEL_PROTOTXT,
CAFFE_MODEL,
1,
1 << 20,
OUTPUT_LAYERS,
trt.infer.DataType.FLOAT,
plugin_factory
)
注:我正在尝试将YOLO2转换为Tensorrt格式。因此,某些层(例如kYOLOREORG和kPRELU)只能由插件支持。在
另一种方法是在构建网络时添加插件network.add_plugin_扩展() ?但是,我不太确定如何指定以后要导入的前一层。在
非常感谢你的回答。感谢您的帮助!在