![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
TensorRT
HanBlogs
AI Compiler、GPU Performance Optimization、Linux kernel、Heterogeneous computing
展开
-
TensorRT优化和Jetson TX2的性能优化
文章目录1.TensorRT优化原理1) TensorRT目前支持的Layer Fusions2) 使用Batch和混合精度3) kernel auto-tuning2. 影响TensorRT优化的因素3. 如何最大化系统的性能(TX2)1.TensorRT优化原理TensorRT加速DL Inference的能力来源于优化器和运行时,其优化原理包括四个方面:Layer & T...原创 2019-10-24 15:19:30 · 4083 阅读 · 1 评论 -
TensorRT优化原理和TensorRT Plguin总结
文章目录1. TensorRT优化原理2. TensorRT开发基本流程3. TensorRT Network Definition API4. TensorRT Plugin4.1 实现plugin4.2 编译plugin.so动态库4.3 在TensorRT中加载plugin5. plugin实例1. TensorRT优化原理[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接...原创 2019-10-24 15:00:18 · 9978 阅读 · 6 评论