《Learning CUDA Programming》读书笔记（一）

 

GPU擅长执行可并行的代码(data-parallel)，CPU用来执行其他对延迟敏感的串行代码；

GPU:throughput-bound(以提升吞吐量为目标);  CPU:latency-bound(以减少延迟为目标)

GPU属于SIMT，不是SIMD

CPU的时钟周期高，为了跟上处理器的步伐，必须加快访存速度，需要：1. 数据cache；2.指令预取；

GPU的线程上下文在寄存器中，所以线程切换快；GPU寄存器多（可达几十MB)；CPU寄存器少，线程上下文都在内存/cache中，所以线程切换慢；GPU线程切换快-->可以用一部分线程占用处理器来隐藏另一部分线程的访存延迟；

GPU的3大编程方式：1. 调库；2.OpenACC；3.手写kernel

cudaDeviceSynchronize: 一般用来等待kernel执行结束，CPU线程再往下走；

注意内存对齐，否则可能会产生冗余访存指令和次数。自定义struct可以用__align__(bytes)关键词来让编译器给对齐；