计算机基础

• CPU    中央处理器（CPU，Central Processing Unit）是一块超大规模的集成电路，是一台计算机的运算核心（Core）和控制核心（ Control Unit）。它的功能主要是解释计算机指令以及处理计算机软件中的数据。CPU包括运算逻辑部件、寄存器部件和控制部件等。负责多任务管理、调度，它是领导者，负责指挥。计算能力方面没有GPU强。
• GPU    图形处理器（英语：Graphics Processing Unit，缩写：GPU），图像运算工作的微处理器。是连接显示器和个人电脑主板的重要元件。GPU属于显卡（GPU、显存、电路板，还有BIOS固件）的一部分，是显卡的核心。GPU用于大量的重复计算，它是计算专家，但协议、管理不是它的专长。它的计算执行能力很强。
• TPU    （Tensor Processing Unit）即张量处理单元，是一款为机器学习而定制的芯片，经过了专门深度机器学习方面的训练，它有更高效能（每瓦计算能力）。TPU是专为机器学习量身定做的，执行每个操作所需的晶体管数量更少，效率更高。
• 张量  （tensor）  几何代数中定义的张量是基于向量和矩阵的推广，通俗一点理解的话，我们可以将标量视为零阶张量，矢量视为一阶张量，那么矩阵就是二阶张量。（参考https://www.jianshu.com/p/2a0f7f7735ad）张量是有大小和多个方向的量。这里的方向就是指张量的阶数。