第十章 CUDA流(stream)实战篇
学习我的教程专栏,你将绝对能实现CUDA工程化,实现环境安装、index计算、kernel核函数编程、内存优化与steam性能优化、原子操作、nms的cuda算子、yolov5的cuda部署等内容,并开源教程源码。之前章节教程,我们已可编写自己设定的核函数代码,亦可从内存使用方面优化cuda编程性能。而本章节继续介绍另一种途径优化cuda性能,该途径为流stream的应用。它代表着一系列的指令的执行队列,表示GPU操作队列,按照先后顺序而依次执行。也可使用多个流并行执行多个任务。
复制链接