luochenbeisheng的博客

原创 使用TensorRt搭建自己的模型

使用TensorRt搭建自己的模型文章目录使用TensorRt搭建自己的模型前言一、问题二、搭建过程三、搭建网络过程肯定会出错，debug是必要的手段：总结前言在推理过程中，基于 TensorRT 的应用程序的执行速度可比 CPU 平台的速度快 40 倍。借助 TensorRT，您可以优化在所有主要框架中训练的神经网络模型，精确校正低精度，并最终将模型部署到超大规模数据中心、嵌入式或汽车产品平台中。TensorRT 以 NVIDIA 的并行编程模型 CUDA 为基础构建而成，可帮助您利用 CUD