【2023 · CANN训练营第一季】TensorFlow 迁移第一章：华为昇腾 AI 基础知识介绍

“对比学习是最棒的。”

AI 领域的三类任务

重要点：算子编写，模型通信，模型开发

华为芯片方案

重要点：训练昇腾910，推理昇腾310。
昇腾有一系列的芯片（Mini，Lite，Nano，Max），应用遍布全场景。
集成用：Lite，Nano等。
边缘计算用：Mini等。
云服务用：Max。

华为芯片使能方案

重要点：CANN 结构，释放昇腾处理器算力
CANN 为华为芯片使能架构，只有通过 CANN 后才能发掘计算速度，减少算力损失。CANN 中有统一 API 可以调用，调度交给 CANN，开发者专心训练 + 迁移模型，想直接操作 CANN 比较困难。

统一接口 AscendCL 介绍

重要点：统一的应用编程语言。
AscendCL 属于 CANN 的一部分，向上供应用程序（AI 框架）调用，向下调用 CANN 组件。
具体优势：高度抽象，API 减少；向下兼容旧版；API 在处理器之间是相同的。
主要应用：开发应用，由第三方 AI 框架调用，打包进第三方的库。

CANN层次介绍

展示五层结构及一些组件

1. 昇腾语言接口

   1. AscendCL

2. 昇腾计算服务层

   1. 昇腾算子库

3. 昇腾计算编译引擎

   1. TBE
   2. 图引擎

4. 计算执行引擎

   1. HCLL
   2. DVPP
   3. Runtime

5. 计算基础层（内核，通信等）

可以看见越底层拥有的模块就越多。

华为 AI 框架

重要点：支持 PyTorch / TensorFlow，还有华为自家的。
框架支持常用的 TensorFlow，PyTorch。也有华为的昇思 MindSpore，以及全工具链 MindStudio。
下一章会讲解将第三方框架如何迁移至昇腾框架。

华为应用使能方案

重要点：HiAi 与 ModelArts 两个预集成方案
HiAi：侧重本机的 API 调用
ModelArts：华为云的“Arts”系列产品。云上部署，云上计算。

昇腾与“AI领域的三类任务”

回到最初的问题，CANN 可以编译算子。Mind Spore 等框架可以编写算子（开发 AI 模型）；应用与模型通信则使用 AscendCL。

后记

如有错误，恳请指正。

外部链接

CANN
CANN 训练营2023年第一季（参加链接）
CANN 安装须知-软件安装 (命令行)-环境准备