tensorRT
4月16!
平时记录用,不喜忽喷
展开
-
python .onnx 转 .engine亲测ok
python版本 onnx文件转engine原创 2023-11-30 10:31:22 · 1295 阅读 · 8 评论 -
trt 使用trtexec工具ONNX转engine
首先说明,我用的模型是一个动态模型,内部需要设置--minShapes=input:1x1x80x92x60 --optShapes=input:2x1x80x92x60--maxShapes=input:10x1x80x92x60min batch=1opt batch =2max batch =10其次,我用的int8量化;量化需要设置calib文件夹;D:\Download\TensorRT-8.2.1.8.Windows10.x86_64.cuda-11.4....原创 2022-04-15 15:36:41 · 4706 阅读 · 4 评论 -
tensorRT8 save/load Egine
save: std::ofstream p(filename, std::ios::binary); auto gieModelStream = mEngine->serialize(); p.write((const char*)gieModelStream->data(), gieModelStream->size()); p.close(); gieModelStream->destroy();load : struct st.原创 2021-12-14 10:41:13 · 3708 阅读 · 14 评论