Fenplan的博客

错误信息：E20211126 11:55:13.654 140412916315904 tensorrt.cpp:10] …/rtSafe/cuda/caskUtils.cpp (98) - Assertion Error in trtSmToCask: 0 (Unsupported SM.)原因：TensorRT版本与cuda或者cudnn版本不匹配，如笔者的TensorRT版本为7.2.1，而cuda为最新的11.5版本，其中cuda版本过高无法适配：解决：重装cuda或者TensorRT

首先，无论是python还是C++，我们都要写一个自己的plugin，一般的不支持op网上都有参考的版本，写plugin的参考教程：如何写好一个opC++实现和使用过程：下载TensorRT官网源码， 进入plugin可以看到许多已经定义好的插件可以参考，照着写就行，以ScatterND为例。先写好自己的plugin，如名为：myplugin注意：此处plugin代码里面不能包含REGISTER_TENSORRT_PLUGIN(MyPluginCreator)代码，不然会导致重复注册的问题。在p

TensorRT源码上提供了一些python的samples，但是说好的提供onnx_packnet这个sample是onnx2trt自定义op的示例，但却没有写完整，不熟悉的人很难看懂。但其实Python版本的onnx2trt自定义op很简单，过程如下：找到一个需要自定义op的C++插件（或者自己写）如：grid_sampler使用cmake将上述grid_sampler相关文件生成C++库文件libtensorrtplugins.so在Python文件的最开头加上一句：ctypes.CDLL("

运行环境python 3.6.9tensorrt 7.1.3.4简单代码实现import tensorrt as trtimport sysimport osTRT_LOGGER = trt.Logger(trt.Logger.WARNING)EXPLICIT_BATCH = 1 << (int)(trt.NetworkDefinitionCreationFlag.EXPLICIT_BATCH)def printShape(engine): for i in r.