CPU vs. GPU

现在的 GPU 都 2000 核了，为什么 CPU 才 16 核？

• CPU：few（less than hundred）cores optimization for sequential serial processing；
• GPU：thousands of small, efficient cores for parallel processing；

1. CPU 的核心数目与 GPU 的核心数目

• GPU 的动辄上千的核心数目，其实像一群小学生做加减运算；而 CPU 的核心则像大学老教授，虽然有限，却能做复杂的微积分；

其实本质上 GPU 的核与 CPU 的核不是同一个概念：

• 2000多指的是 sp（stream processor），只是 ALU 单元，不能算是核。
  
  • GPU只能计算那些能并行化，数据依赖性不高的任务，而不能进行串行化的任务，也就是计算量大但是计算不复杂的任务。
• GPU上真的可称上核得叫 SM（stream multiprocessor），SM 才有完整的流水线，指令发射器等等。

2. 适用场景

• GPU 这种数据级并行的结构对图像处理这种大量重复劳动的应用来讲，是最适合的。对于千核 CPU 而言，网络通信十分复杂，毕竟让一千头牛去配合着干活也是很费力的，尤其如果考虑到缓存一致性问题，片上网络通信的优化对性能制约很大。现在在 intel 也有众核处理器实验芯片。
• GPU只能计算那些能并行化，数据依赖性不高的任务，而不能进行串行化的任务，也就是计算量大但是计算不复杂的任务。