
TensorRT
HanBlogs
AI Compiler、GPU Performance Optimization、Linux kernel、Heterogeneous computing
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
TensorRT优化和Jetson TX2的性能优化
文章目录1.TensorRT优化原理1) TensorRT目前支持的Layer Fusions2) 使用Batch和混合精度3) kernel auto-tuning2. 影响TensorRT优化的因素3. 如何最大化系统的性能(TX2) 1.TensorRT优化原理 TensorRT加速DL Inference的能力来源于优化器和运行时,其优化原理包括四个方面: Layer & T...原创 2019-10-24 15:19:30 · 4405 阅读 · 1 评论 -
TensorRT优化原理和TensorRT Plguin总结
文章目录1. TensorRT优化原理2. TensorRT开发基本流程3. TensorRT Network Definition API4. TensorRT Plugin4.1 实现plugin4.2 编译plugin.so动态库4.3 在TensorRT中加载plugin5. plugin实例 1. TensorRT优化原理 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接...原创 2019-10-24 15:00:18 · 10265 阅读 · 6 评论