ternsorrt模型集成总结

最新推荐文章于 2023-08-01 11:09:15 发布

苦行僧-RunnerCai

最新推荐文章于 2023-08-01 11:09:15 发布

阅读量547

点赞数

分类专栏：零散整理文章标签：深度学习神经网络 pytorch

本文链接：https://blog.csdn.net/m0_50545301/article/details/120409253

版权

本文介绍了如何将PyTorch模型转换和集成到TensorRT中以实现高性能推理。通过对比不同的深度学习框架，强调了PyTorch的动态计算图优势。详细讲述了YOLOv5模型在TensorRT上的部署过程，包括权重转换和推理引擎的创建，展示了TensorRT在GPU推理优化上的效能。

摘要由CSDN通过智能技术生成

有时候在处理deep learning 模型的时候，我们需要将模型用c++集成。这里概述一下，免得自己下次有忘掉了：
下面的是深度学习开源库的一些对比
在这里插入图片描述我这里是用PyTorch、TensorRT
PyTorch ：是Torch7 团队开发的，从它的名字就可以看出，其与Torch 的不同之处在于PyTorch 使用了Python 作为开发语言。所谓“Python first”，同样说明它是一个以Python 优先的深度学习框架，不仅能够实现强大的GPU 加速，同时还支持动态神经网络，这是现在很多主流框架比如Tensorflow 等都不支持的。PyTorch 既可以看做加入了GPU 支持的numpy，同时也可以看成一个拥有自动求导功能的强大的深度神经网络，除了Facebook 之外，它还已经被Twitter、CMU 和Salesforce 等机构采用
原文链接：https://blog.csdn.net/broadview2006/article/details/80133047（为什么要使用pytorch）