【2023 · CANN训练营第一季】昇腾AI入门课（PyTorch）第一章学习笔记——Hi Ascend

第一章 昇腾AI基础知识

华为AI全栈的解决方案分为四层，分别是，芯片层，芯片使能层，AI框架层，应用使能层。那么这四个层面分别是用来做什么的呢？且看我娓娓道来。

1.芯片层

芯片层也叫Ascend层，芯片是一切集成电路的核心，芯片的主要作用也是指在运算方面的作用，更简单地说万事万物无不可计算而得，尤其是对于AI来说，你可以把AI看成是一个预先训练好的“人”，通过给它学习外界数据，使得它对于特定的数据具有感知能力。那么训练AI的基础是必须具备足够的运算能力，一般用来衡量芯片运算能力的单位是TOPS，1TOPS代表处理器每秒钟可进行一万亿次（10^12）操作。

昇腾推出的芯片依据不同的需求可覆盖端边云全场景。

• 端侧设备：智能手机、智能手表、智能摄像头、智能耳机、智能TV等等，在这些设备的电路板上按需求集成了不同算力的端侧芯片，如Nano、Tiny、Lite、Mini等系列芯片，它们所具有的算力在20MPOS-20TPOS之间。
• 边侧设备：车载处理器、边缘计算服务器等，在这些需要中等规模算力的场景下安装有Ascend 310系列芯片。可提供10TOPS-100TOPS之间的算力。
• 云侧设备：数据中心，配备Ascend910系列芯片，提供200+TOPS的算力，可用于构建大规模的数据中心，为更大场景下的AI应用提供超大规模的算力支持。
  

2.芯片使能层

芯片使能层的作用是实现解决方案对外能力开放，以及基于计算图的业务流的控制和运行。简单地说，芯片使能层的作用是调用芯片算力，例如任务的调度处理，简单的加减乘除运算，复杂的积分微分运算等。使用CANN（又名异构计算框架）提供的AscendCL语言完成对芯片的控制，让其按照给定的指令工作。异构计算结构CANN涵盖了一套完成的让Ascend系列芯片处理任务的模块，有AI芯片AscendCL昇腾计算语言库、图优化和编译、算子编译和算子库、数字视觉预处理、执行引擎。

3.框架层

框架层在芯片使能层之上，为了更方便我们编写算法，将底层的对于芯片的不同操作封装为一个函数库，我们直接使用函数库中的函数就可让芯片完成运算。框架层其实就是这个封装好的函数库，它让我们更方便操纵芯片。昇腾推出的MindSpore是一款全场景AI训练和推理框架，它可应用在端边云不同场景下的AI应用。

4.应用使能层

这一块是指华为推出的一键式开发平台ModelArts。简单来看ModelArts是一个web端的应用平台，该平台提供云上的开发环境，训练环境，AI应用的生成以及部署。举个例子：小明想开发一款AI应用，但是苦于算力资源，存储资源，部署难度等硬件及技术能力的有限，开发难度大而且过程漫长，它了解到了一个叫ModelArts的开发平台，让他可以使用“云”上资源、环境去编写AI算法并且直接在“云”上训练得到AI模型，在得到模型后还可以直接部署在“云”平台上，启动在线服务直接调用部署上线的模型获得预测结果，进而降低他的开发难度加快开发流程。

5.总结

• 通过本章的学习,我了解了CANN在昇腾全栈架构中的位置和作用。
• 了解了基于CANN的应用开发编程框架、基本概念。