CUDA程序中，为了提高主机内存与设备内存之间传输效率，可以使用Pinned Memory。Pinned Memory拷贝速度约6GB/s，比普通内存快。此外，可以使用内存映射实现Zero Copy，但在CUDA 2.2以后效果不明显。cudaHostRegister()函数可以把普通内存转换为Pinned Memory，避免额外的CPU内存拷贝。注意，Pinned Memory是稀缺资源，过多分配会影响系统性能。
当为了提高CUDA程序的主机内存和设备内存传输消耗时，可以尝试一下两种方案
一：使用分页锁定内存，分页锁定内存和显存之间的拷贝速度大约是6GB/s，普通的分页内存和GPU间的速度大约是3GB/s，（另外：GPU内存间速度是30G,CPU间内存速度是10GB/s），但是这种方法会带来额外的cpu内存间的拷贝时间
二：使用内存映射（Zero Copy）让GPU直接使用CPU的内存，减少主机和设备间内存传输的时间，但是这种方法对于2.2以后的cuda版本未必管用
三：通过函数cudaHostRegister()把普通内存改为分页锁定内存，和一的方法类似，但不会带来额外的cpu内存拷贝时间，实验证明该方法有效果。
========================================================================================================
最低0.47元/天 解锁文章
扫一扫
3310
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
