那些算力的二三事

1.算力及发展

  算力，从字面来看，计算能力（Computing Power）。更具体来说，算力是通过对信息数据进行处理，实现目标结果输出的计算能力。
  人类的大脑其实就是一个强大的算力设备，每天都进行着各种计算。
  最早人们使用树枝、石子计数，随着算盘等工具出现，人类的算力开始不断提升。
  后来，计算器，计算机被发明出来，算力也开始进入了数字化时代。
  随着各类半导体工艺的发展，小巧且强大的芯片开始出现，芯片成为了算力的载体。
  进入21世纪后，算力再次迎来了巨变。这次巨变的标志，是云计算技术的出现。
  在云计算之前，人类苦于单点式计算（一台大型机或一台PC，独立完成全部的计算任务）的算力不足，已经尝试过网格计算（把一个巨大的计算任务，分解为很多的小型计算任务，交给不同的计算机完成）等分布式计算架构。
  云计算，是分布式计算的新尝试。它的本质，是将大量的零散算力资源进行打包、汇聚，实现更高可靠性、更高性能、更低成本的算力。
  具体来说，在云计算中，中央处理器（CPU）、内存、硬盘、显卡（GPU）等计算资源被集合起来，通过软件的方式，组成一个虚拟的可无限扩展的“算力资源池”。用户如果有算力需求，“算力资源池”就会动态地进行算力资源的分配，用户按需付费。
  相比于用户自购设备、自建机房、自己运维，云计算有明显的性价比优势。
  算力云化之后，数据中心成为了算力的主要载体。人类的算力规模，开始新的飞跃。

2.算力的分类

  算力可以分为基础算力、智能算力和超算算力：
  （1）基础算力，由基于CPU芯片的服务器所提供的算力，主要用于基础通用计算。日常提到的云计算、边缘计算等都属于基础算力，它为移动计算、物联网等提供计算支持。
  （2）智能算力，由基于GPU、FPGA、ASIC等AI芯片的加速计算平台提供的算力，主要用于人工智能的训练和推理计算，比如语音、图像和视频的处理。在技术架构上，人工智能的核心计算能力由训练、推理等专用计算芯片提供，注重单精度、半精度等多样化计算能力。在应用方面，人工智能计算中心主要支持人工智能与传统行业的融合创新与应用，提升传统行业的生产效率，在自动驾驶，辅助诊断、智能制造等方面大显身手。
  （3）超算算力，由超级计算机等高性能计算集群所提供的算力，主要用于尖端科学领域的计算，比如行星模拟、药物分子设计、基因分析等等。在技术架构上，超算的核心计算能力由高性能CPU或协处理器提供，注重双精度通用计算能力，追求精确的数值计算。在应用方面，超算中心主要应用于重大工程或科学计算领域的通用和大规模科学计算，如新材料、新能源、新药设计、高端装备制造、航空航天飞行器设计等领域的研究。

  近年来，除了基础通用算力、智能算力、超算算力之外，科学界还出现了前沿算力的概念，主要包括量子计算、光子计算等，值得关注。
  现在经常说的“算力卸载”，其实不是删除算力，而是把很多计算任务（例如虚拟化、数据转发、压缩存储、加密解密等），从CPU转移到NPU、DPU等芯片上，减轻CPU的算力负担。

3.算力的衡量

  算力有以下的衡量指标，大家所熟悉的算力衡量指标是OPS(整型)和FLOPS(浮点型)，其他指标的介绍可以参阅参考资料[1]
  其中，OPS和FLOPS又有不同的量级，将下表中的F去除一样适用于OPS

  当然，不说明精度的算力纯属耍流氓
  根据参与运算精度的不同，可以把算力分为双精度(FP64)、单精度(FP32)、半精度(FP16)和整型(INT32、INT16、INT8、INT4)，精度越高适用范围越广。
  部分精度结构如下图所示，其中S为符号位(SIGN，0为正，1为负)，E为指数位(Exponent),M为有效数据位(Mantissa)。

这里放两张图来表现算力差异

4.各种PU

  我们所熟知的有CPU，GPU，但其实，26个字母都被用了一遍，成为了各种芯片和设计的代名词。当然，相同的缩写可能会对应多个扩写，这里仅列出部分对应名称。

参考资料

[1]算力理解MIPS/DMIPS/MFLOPS/TOPS
[2]到底什么是算力