Pytorch 模型tensorrt部署v1
1. 目录文章目录1. 目录2. 主要内容2.1 准备阶段2.2 主要代码2. 主要内容为了提高神经网络模型的推理速度,Nvidia 推出了 Tensorrt 网络前向加速器. 简单的来说,训练好一个神经网络模型,只需要将模型通过tensorrt部署就会获得更快的推理速度. Tensorrt中支持FP32,FP16,INT8数据类型,其中FP32与FP16在精度上的损失很小,INT8量化后的...
原创
2019-05-18 12:00:16 ·
10195 阅读 ·
6 评论