CUDA随笔：CPU和GPU的联系和区别

从硬件来分析，CPU和GPU似乎很像，都有内存、cache、ALU、CU，都有着很多的核心，但是二者是有区别的。

但以核心为例，CPU的核心比较重，可以用来处理非常复杂的控制逻辑，预测分支、乱序执行、多级流水等等CPU做得非常好，这样对串行程序的优化做得非常好；

但是GPU的核心就是比较轻，用于优化具有简单控制逻辑的数据并行任务，注重并行程序的吞吐量。

简单来说就是CPU的核心擅长完成多重复杂任务，重在逻辑，重在串行程序；GPU的核心擅长完成具有简单的控制逻辑的任务，重在计算，重在并行。

另外，并行和并发的概念是不一样的，并行就是大家一起干，同时去做，并发就是多线程竞争资源