TensorRT
weixin_45415546
这个作者很懒,什么都没留下…
展开
-
TensorRT7 Onnx模型动态多batch问题解决
升级到Tensort7, ONNX模型创建网络和预测都需要用V2版本。 创建模型 const auto explicitBatch = 1U << static_cast<uint32_t>(NetworkDefinitionCreationFlag::kEXPLICIT_BATCH); INetworkDefinition *network = builder->createNetworkV2(explicitBatch); // 创建TensorRT网络原创 2020-08-31 10:39:33 · 9316 阅读 · 4 评论 -
TensorRT开源组件编译环境配置
TensorRt环境变量 export TRT_RELEASE=`pwd`/TensorRT export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$TRT_RELEASE/lib cmake -D CMAKE_CUDA_COMPILER=/usr/local/cuda-10.0/bin/nvcc -DTRT_LIB_DIR=$TRT_RELEASE/lib -DT...原创 2020-07-14 17:24:44 · 351 阅读 · 0 评论