TensorRT 报错（Python)：Error Code 1: Cuda Runtime (invalid resource handle) 解决方法

[08/29/2022-20:30:45] [TRT] [E] 1: [slice.cu::launchNaiveSliceImpl::244] Error Code 1: Cuda Runtime (invalid resource handle)

 这种问题一般多发于在多线程中使用tensorrt，或者在主线程中定义tensorrt的引擎，然后在回调线程利用该引擎进行推理的时候，就会发生这样的错误。

例如你使用ros，在主线程中初始化引擎，并定义了一个服务器，当收到查询请求的时候，调用推理inference函数。这时候就会报上面的错。

而正常执行，没有多线程参与的情况下，是没有任何问题的。

解决方法：

第一步，在最开始，定义如下内容：

import pycuda.driver as cuda
import pycuda.autoinit

#如果是类中，就定义self，否则就定义全局变量cfx
self.cfx= cuda.Device(0).make_context()

第二步，在进行推理前后，加上push和pop两个操作：

self.cfx.push()
self.inference() #你的推理函数
self.cfx.pop()