本章学习目标
1.了解CANN在昇腾AI全栈架构中的位置和作用。
2.了解基于CANN的应用开发编程框架、基本概念
本章学习内容
1.昇腾AI全栈架构
1.1芯片层:算力基础(小芯片集成在其他芯片中)
NPU:特指昇腾内核
独立成片的:1.昇腾310,用在人工智能的推理场景
2.昇腾910,用在人工智能的训练场景
1.2芯片使能层CANN*——专门为神经网络设计的计算框架
包括芯片驱动,任务调度,运行时环境、计算加速库,算子开发环境等开发工具
开发难度可能较大,不适合一般开发者,引入框架
1.3AI框架
自主:MindSpore(支持:TensorFlow、PyTorch、PaddlePaddle.....)--提升效率
1.4应用使能
ModelArts:训练资源平台,帮助我们寻找训练环境(具体在模型营介绍)
2.异构计算框架
CANN包含:
图的解析工具:图引擎
算子融合分析工具:融合引擎
AI算子CPU加速:AICPU引擎
集合通信的:集合通信引擎
关于TBE算子的加速计算引擎和算子库
3.昇腾计算语言接口AscendCL
3.1应用与模型
应用调度模型:应用与模型(MindXSDK)都需要人来写
模型通过MindSpore搭建——模型营
模型内部结构:是一个个小小的节点穿起来的有向无环计算图:
比如卷积、激活、全链接、归一化——算子营(讲每个计算节点如何编写)