TensorRT
文章平均质量分 92
爱破破爱科研
这个作者很懒,什么都没留下…
展开
-
TensorRT简介--高性能深度学习支持引擎
上文简单提到了TensorRT的基础与onnx转换:基于TensorRT的神经网络推理与加速 :https://blog.csdn.net/intflojx/article/details/81712651后面看到老板的slides, 感觉理解更深层次了哈,要学习的东西还有很多哈。 摘要: 随着传统的高性能计算和新兴的深度学习在大型的互联网企业的普及发展,作为训练和推理载体的...原创 2018-08-17 16:13:29 · 26105 阅读 · 3 评论 -
基于TensorRT的神经网络推理与加速
一. 引言NVIDIA TensorRT是一种高性能神经网络推理(Inference)引擎,用于在生产环境中部署深度学习应用程序,应用于图像分类、分割和目标检测等,可提供最大的推理吞吐量和效率。TensorRT是第一款可编程推理加速器,能加速现有和未来的网络架构。TensorRT包含一个为优化生产环境中部署的深度学习模型而创建的库,可获取经过训练的神经网络(通常使用32位或16位数据),并针对...原创 2018-08-15 22:52:32 · 13320 阅读 · 8 评论