模型压缩与加速
旺旺棒棒冰
做正确的事,正确得做事
展开
-
ImportError: libnvinfer.so.7: cannot open shared object file: No such file or directory
安装好tensorrt之后,import tensort报错,是因为没有配置好环境变量export LD_LIBRARY_PATH=/models/TensorRT-7.2.3.4/lib:$LD_LIBRARY_PATH/models/TensorRT-7.2.3.4/ 替换为自己的tensorrt安装路径原创 2021-11-16 10:31:50 · 4701 阅读 · 0 评论 -
设置builder.max_workspace_size的意义
翻译自The significance of builder.max_workspace_size. - TensorRT - NVIDIA Developer Forumsmaximum workspace限制了模型中任何层可以使用的内存数量。这并不意味着如果设置1 << 30,就会分配1GB内存。在运行时,只会分配层操作所需的内存数量。在构建大网络时,设置这个参数,给予足够多的内存是很必要的后面需要自己尝试看看...翻译 2021-11-16 10:27:29 · 1202 阅读 · 0 评论