stivory的博客

原创 Tensorrt安装及使用（python版本）

Window使用zip安装后使用 TensorrtRT-8.6.1.6/bin/trtexec.exe 文件生成 tensorrt 模型文件。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。我这边的使用的流程是：pytorch -> onnx -> tensorrt。我使用的：cuda版本：11.7；我使用的：cuda版本：11.4；打印转换后的tensorrt的模型的信息。