TensorRT错误提示getPluginCreator could not find plugin 【找不到的op名称】 version 1的解决方案

最新推荐文章于 2024-02-04 14:10:58 发布

Alex-Leung

最新推荐文章于 2024-02-04 14:10:58 发布

阅读量6.1k

点赞数 15

文章标签： TensorRT python c++

本文链接：https://blog.csdn.net/a2824256/article/details/121262135

版权

本文档详细介绍了在使用TensorRT 7.2.3.4时遇到'getPluginCreatorcouldnotfindplugin [OP名称] version 1'错误的解决方法，包括Python和C++版本的解决方案，以及如何加载插件库和链接必要的nvinfer_plugin.lib。

摘要由CSDN通过智能技术生成

报错提示

getPluginCreator could not find plugin 【找不到的OP名称】 version 1

环境

TensorRT 7.2.3.4

原因

对应op放到了插件库，需加载插件库

Python版本解决方案

import tensorrt as trt
# 在反序列化前加上，trt_runtime.deserialize_cuda_engine(engine)
trt.init_libnvinfer_plugins(None, "")

C++版本解决方案

#include "NvInferPlugin.h"
// 在deserializeCudaEngine()前加上
bool didInitPlugins = initLibNvInferPlugins(nullptr, "");

同时还需要链接nvinfer_plugin.lib

关注博主即可阅读全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Alex-Leung

关注关注

15
点赞
踩
20

收藏

觉得还不错? 一键收藏
打赏
5
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

【ai】tx2 nx ： yolov4加入initLibNvInferPlugins构建

突围

06-25

117

initLibNvInferPlugins

YOLOV5 TensorRT部署 BatchedNMS(转换engine模型)(上)

最新发布

qq_42754919的博客

04-23

415

yolov5 tensorrt部署时引入nms plugin，nms在cuda上执行，减少内存拷贝和运行时间

5 条评论您还未登录，请先登录后发表或查看评论

TensorRT - 解决INVALID_ARGUMENT: getPluginCreator could not find plugin ScatterND version 1

HW140701的博客

09-19

7457

1 问题出现最近在使用TensorRT 7.2.3.4中的自带的trtexec工具转换yolov3-spp的onnx模型为TensorRT模型文件时出现了找不到ScatterND插件的错误，错误大致如下： ModelImporter.cpp:135: No importer registered for op: ScatterND. Attempting to import as plugin. builtin_op_importers.cpp:3771: Searching for plugin: Sc

YOLOV3剪枝项目出现“could not find or load the Qt platform plugin xcb”

happyday_d的博客

12-27

470

YOLOV3剪枝项目出现“could not find or load the Qt platform plugin “xcb”” 配置环境运行剪枝项目：https://github.com/tanluren/yolov3-channel-and-layer-pruning 问题：配置好环境后运行量化剪枝项目训练OK，测试时出现： This application failed to start ...

TensorRT:自定义插件学习与实践 001

ResumeProject的博客

05-02

1323

本文简单列出了编写Tensorrt插件所需要的关键方法,分为两个部分，一是插件类的具体实现方法，另外是插件工厂的调用方法,插件类最终将编译为.so文件,使用时在c++或python中调用,所以插件类的方法调用在其他部分，在本文中难以直观的体现调用流程,需编写并运行代码，体验各个方法在插件生命周期中的作用。关于插件工厂的构造与调用在本文进行了解释。

TensorRT:自定义插件学习与实践 003: (IPluginV2Ext example) Plugin for Swish activation function in TensorRT 6

ResumeProject的博客

05-06

438

【代码】TensorRT:自定义插件学习与实践 003: (IPluginV2Ext example) Plugin for Swish activation function in TensorRT 6。

tensorrt踩坑随笔

kao_lengmian的博客

07-29

3446

问题1 onnxruntime.capi.onnxruntime_pybind11_state.InvalidGraph: [ONNXRuntimeError] : 10 : INVALID_GRAPH : Load model from reid_1_3_256_128_static.onnx failed:This is an invalid model. Error in Node: : Unrecognized attribute: min for operator Clip opset_vers

从零开始 TensorRT（4）命令行工具篇：trtexec 基本功能

秋山丶雪绪的博客

02-04

4450

学习资料：TensorRT 源码示例参考源码：cookbook → 07-Tool → trtexec在 TensorRT 的安装目录下有命令行工具 trtexec，主要功能：（1）由 ONNX 文件生成 TensorRT 引擎并序列化为 plan 文件（2）查看 ONNX 或 plan 文件的网络逐层信息（3）模型性能测试，即测试 TensorRT 引擎在随机输入或给定输入下的性能。

TensorRT-8量化分析

吴建明wujianming_110117

03-17

2228

TensorRT-8量化分析本文讲非对称量化、量化方式等等一些细节，不过有一段时间在做基于TensorRT的量化，需要看下TensorRT的量化细节。这次文章是偏实践的一篇，主要过一下TensorRT对于explict quantization的流程和通用的量化思路。 01 0x01 TensorRT量化都2022年了，量化技术已经很成熟了，各种量化框架[1]和量化算法层出不穷。之前接触过几个量化框架，大部分都是在算法层面模拟一下，实际上无法直接部署到具体的硬件层，也只是停留在算法的层面。而现在成熟的量

Android Gradle源码分析

一个码农的博客

06-04

2677

一.如何调试Android Gralde源码最简单的方式如下： 1.配置 gradle.properties 比较方便的做法是配置全局的 gradle.properties，这样对所有 Gradle 工具都适用，配置文件位于 ~/.gradle/gradle.properties，在 gradle.properties 文件中加上 org.gradle.jvmargs 属性： org.gradle.jvmargs=-XX:MaxPermSize=4g -XX:+HeapDumpOnOutOfMemoryE

深度学习+TensorRT-8.2.1.8+模型加速部署

04-12

win10 cuda11.4 cudnn8.2 含 C++和Python API

TensorRT：Nvinfer.h-下篇

微风❤水墨

08-17

772

9：PluginV2类 Pluginv2是新版本的插件接口，部分函数接口与V1是一致的 class IPluginV2 { public: //获取TensorRT的版本，用于向后兼容 //! \brief Return the API version with which this plugin was built. //! //! Do not override this method as it is used by the TensorRT library t.

TensorRT-插件初始化

qq_42178122的博客

11-26

4728

遇到一个问题，就是在使用自定义插件的时候，先通过onnx生成trt模型；然后，加载trt模型，能正常使用。注释：如果先通过onnx生成trt模型，这一步已经做了插件注册。因此，在后面的加载模型，就能正常使用。因为在插件注册表中找不到相应的IPluginCreator，所以需要在加载模型的时候，进行插件注册。1）添加#include "NvInferPlugin.h"的头文件。2）在加载模型的代码处，进行插件注册。

TensorRT学习（三）通过自定义层扩展TensorRT

yangjf91的博客

10-21

6035

本文源于学习TensorRT文档《TensorRT-Developer-Guide》第4章“EXTENDING TENSORRT WITH CUSTOM LAYERS”的理解。通过C++API添加自定义层自定义层添加是通过扩展IPluginV2Ext和IPluginCreator类来实现： IPluginV2Ext：IPluginV2的升级版，实现自定义插件的基类，包含版本化和对其它...

win10 tensoRT5.1.5.0 C++推理demo学习

qq_38109843的博客

03-02

1629

先给出比较好的博客参考： https://blog.csdn.net/hw5226349/article/details/81588176?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task 推理流程 1.日志接口 TensorRT的两种初始化方法： ...

TensorRT优化原理和TensorRT Plguin总结

HanBlogs

10-24

1万+

文章目录1. TensorRT优化原理2. TensorRT开发基本流程3. TensorRT Network Definition API4. TensorRT Plugin4.1 实现plugin4.2 编译plugin.so动态库4.3 在TensorRT中加载plugin5. plugin实例 1. TensorRT优化原理 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接...

Pytorch转TensorRT中的坑