最近部署TensorRT的时候,遇到了这个报错,导致生成的engine文件大小为0,就是空文件
[TensorRT] INTERNAL ERROR: Assertion failed: cublasStatus == CUBLAS_STATUS_SUCCESS
../rtSafe/cublas/cublasLtWrapper.cpp:279
Aborting...
[TensorRT] ERROR: ../rtSafe/cublas/cublasLtWrapper.cpp (279) - Assertion Error in getCublasLtHeuristic: 0 (cublasStatus == CUBLAS_STATUS_SUCCESS)
Traceback (most recent call last):
......
AttributeError: 'NoneType' object has no attribute 'serialize'
最后一查,发现是cuda10.2和TensorRT的bug,需要再安装cuda10-2的两个更新包,在官网就能看到,分别是
更新安装步骤:
sh cuda_10.2.1_linux.run
#1、进入后输入accept
#2、直接按下,选第三个install
sh cuda_10.2.2_linux.run
#1、进入后输入accept
#2、直接按下,选第三个install
再执行就发现没问题了