为Tensorflow安装TensorRT（tar）

January_Cao

已于 2022-08-16 14:00:49 修改

阅读量801

点赞数

文章标签：深度学习人工智能

于 2022-08-16 11:07:58 首次发布

本文链接：https://blog.csdn.net/January_Cao/article/details/126356307

版权

本文档提供了一步一步的指导，详细解释如何在Tensorflow中安装TensorRT。首先介绍了安装TensorRT的背景，即它作为模型优化库的角色。接着，通过官方渠道下载并解压TensorRT，然后将解压后的库路径添加到环境变量。最后，针对Python环境，强调了安装Python库时必须匹配Python版本的重要性，以避免找不到动态库的问题。

摘要由CSDN通过智能技术生成

2022.08.16

1. 安装背景

TensorRT是一个优化模型的库，也集成在Tensorflow里。

通过

import tensorflow.python.compiler.tensorrt

可以简单import。

但是优化模型时需要安装TenosrRT的lib以后才能正常使用，比如libnvinfer.so.8。

在执行下面这段代码时，报错【Could not load dynamic library 'libnvinfer.so.8'】提示需要安装TensorRT8

from tensorflow.python.compiler.tensorrt import trt_convert as trt

conversion_params = trt.DEFAULT_TRT_CONVERSION_PARAMS._replace(precision_mode=trt.TrtPrecisionMode.FP32,
                                                               max_workspace_size_bytes=8000000000, use_calibration=False)

converter = trt.TrtGraphConverterV2(input_saved_model_dir='saved_model',
                                    conversion_params=conversion_params)
converter.convert()
converter.save(output_saved_model_dir='saved_model_TFTRT_FP32')