GPU是什么?

2016年，发生了一件震动IT界的大事。谷歌的人工智能软件阿尔法狗（AlphaGo）击败了韩国的世界围棋冠军九段选手李世石。2017年，阿尔法狗又击败了当年世界围棋排名第一的中国围棋九段选手柯洁。至此，人类在所有的棋类比赛中全部输给了计算机。

阿尔法狗是一个中央处理器（Central Process Unit，CPU）和图形处理器（Graphic Process Unit，GPU）一起工作的围棋智能机器人。阿尔法狗以神经网络、深度学习、蒙特卡洛树搜索法为核心算法。其系统由四部分组成：

1. 策略网络（Policy Network），以当前局面为输入，预测下一步的走法；
2. 快速走子（Fast Rollout），目标和策略网络相似，在适当牺牲质量的条件下的加速走法；
3. 价值网络（Value Network），以当前局面为输入，估算胜率；
4. 蒙特卡洛树搜索（Monte Carlo Tree Search），把上述三个部分整合起来，形成完整的系统。

最初的阿尔法狗有176个GPU和1202个CPU。GPU能够通过内部极多进程的并行运算，取得比CPU高一个数量级的运算速度。但是GPU为了管理多进程，它需要在微架构上进行精心设计以满足深度学习计算对于带宽和缓存的需求。那么GPU和CPU有什么不同呢？

01 图形处理器

CPU由运算器（ALU）和控制器（CU）两大部件组成。此外，还有若干个寄存器和高速缓冲存储器及实现它们之间联系的数据、控制及状态总线。ALU用来执行算术运算、移位操作、地址运算和转换；寄存器件用于保存中间数据以及指令；CU负责对指令译码，并发出为完成每条指令所要执行的各个操作的控制信号（见图24-1）。

▲图24-1 CPU的结构图（冯·诺依曼构架）


 

CPU的运行遵循冯·诺依曼构架：存储程序顺序执行。程序执行过程如下：CPU根据程序计数器（Program Counter，PC）从内存中得到指令，然后通过指令总线将指令送至译码器，将转译后的指令交给时序发生器与操作控制器，再从内存中取得数据并由运算器对数据进行处理，最后通过数据总线将数据存至数据缓存寄存器以及内存中。

CPU是一步步来处理数据的（见图24-2）。在处理大规模与高速数据时，CPU很难满足需要。

▲图24-2 CPU的工作原理


 

当芯片的集成度增加后，漏电流也随之增大，但时钟频率的提高有限，而且晶体管的线宽很快就会到达物理极限，因此芯片的性能很难靠减小晶体管线宽来提高。于是，人们开始在设计上做文章，首先想到的是让多个处理器并行工作，这样效率自然提高了很多，于是多核CPU和GPU由此诞生。

另一个想法是芯片不变，而在应用系统上加人工智能，以此取得计算上的收益。随着大数据时代的到来，以人工智能为导向的应用系统也越来越多了。

在现代的计算机中，图形处理越来越重要，于是一个专门处理图形的核心处理器GPU应运而生。对于处理图形数据来说，图形上的每个像素都要被处理，这就是一个大数据，因此对运算速度的要求很高。但GPU所需的功能比较单一，于是就诞生了基于优化图形处理的GPU构架（见图24-3）。

▲图24-3 CPU与GPU构架对比示意图


 

CPU的功能模块多，适合复杂的运算环境，大部分晶体管用在控制电路和Cache上，少部分晶体管用来完成运算工作。GPU的控制相对简单，且不需要很大的Cache，大部分晶体管可被用于各类专用电路和流水线，GPU的计算速度因此大增，拥有强大的浮点运算能力。

当前的多核CPU一般由4或6