TensorRT
关注
分享
扫一扫
文章平均质量分 86
赛先生.AI
科技公司CTO。机器学习，深度学习，计算机视觉从业者。网络，流媒体技术，编解码技术爱好者。
曾从事汽车行业，安防行业，现从事无人机行业。
-> tecsai@163.com
展开
-
TensorRT教程（1）初探TensorRT
TensorRT（NVIDIA TensorRT）是 NVIDIA 开发的一个用于深度学习推理的高性能推理引擎。它可以针对 NVIDIA GPU 进行高效的深度学习推理加速，提供了许多优化技术，使得推理速度更快，并且可以在生产环境中部署。原创 2024-06-06 22:45:20 · 1200 阅读 · 0 评论 -
PyTorch训练，TensorRT部署的简要步骤（采用ONNX中转的方式）
使用PyTorch执行训练，使用TensorRT进行部署有很多种方法，比较常用的是基于INetworkDefinition进行每一层的自定义，这样一来，会反向促使研究者能够对真个网络的细节有更深的理解。另一种相对简便的方式就是通过ONNX中间转换的形式。本文主要针对该途径进行简单的脉络阐述。原创 2024-02-28 09:36:08 · 1472 阅读 · 0 评论