了解 GPU

近期ChatGPT十分火爆，随之而来的是M国开始禁售高端GPU显卡。M国想通过禁售GPU显卡的方式阻挡中国在AI领域的发展。

GPU是什么？

GPU（英语：Graphics Processing Unit，缩写：GPU）是显卡的“大脑”，GPU一开始是专门为图形应用开发的硬件组件， 是2D显示卡和3D显示卡的区别依据。2D显示芯片在处理3D图像和特效时主要依赖CPU的处理能力，称为“软加速”。3D显示芯片是将三维图像和特效处理功能集中在显示芯片内，也即所谓的“硬件加速”功能。

GPU提供多核并行计算的基础，且核心数众多，可以支撑大量数据的并行运算。虽然时钟速度和分支处理运算能力都比CPU弱很多，但是这些在训练网络的时候，都是无关紧要的。AI场景训练和推理通常不涉及大量的分支运算与复杂的控制指令，更适合在GPU上进行。

数据、算法和算力是人工智能发展的三大支柱，这三个要素缺一不可。就算力而言，除了训练，AI实际需要运行在硬件上，以及推理（inference)，这些都需要算力的支撑，而这需要GPU来承载和实现，因此GPU被广泛运用到数值模拟、机器学习、算法训练等领域。 就像ChatGPT这种项目，缺少了GPU芯片，缺少了算力，就不可能发展得起来

CPU和GPU的区别

中央处理器(CPU)

CPU是集成化系统的大脑。 包括快速存储信息和执行计算的算术逻辑单元(ALU)，以及用于执行指令序列和分支的控制单元(CU)。 CPU与更多计算机组件(例如内存，输入和输出)进行交互以执行指令。CPU的架构图示如下：

图形处理单元(GPU)：

GPU通常用于在计算机游戏中提供图像处理能力。 GPU的速度比CPU的速度快，并且它强调高吞吐量。它通常与电子设备集成在一起，以便与电子设备共享RAM，这非常适合执行最重要的计算任务。GPU包含的ALU单元多于CPU

CPU和GPU比较

中央处理器CPU	图形处理单元GPU
CPU比GPU消耗或需要更多的内存	它消耗或需要的内存少于CPU
CPU的速度小于GPU的速度	GPU比CPU的速度快
CPU包含微小的强大内核	它包含更多相对弱的内核
CPU适用于串行指令处理	而GPU不适合串行指令处理
CPU不适合并行指令处理	而GPU适用于并行指令处理
CPU强调低延迟	而GPU则强调高吞吐量

参考资料：

https://www.geeksforgeeks.org/difference-between-cpu-and-gpu/

https://www.geeksforgeeks.org/introduction-of-alu-and-data-path/