1.1-1.2 昇腾AI全栈架构
课程链接: https://www.hiascend.com/zh/developer/courses/detail/1579657120536670210
1.1 学习目标
1.了解CANN在昇腾AI全栈架构中的位置和作用。
2.了解基于CANN的应用开发编程框架、基本概念。
1.2 昇腾AI全栈框架
人工智能领域全栈全场景的解决方案
全栈:芯片层、芯片使能层、AI框架层、应用使能层
- ①芯片层:算力基础 (硬件基础)
- nano/tiny/lite/mini:小芯片,不独立使用,集成在其他芯片中,提供AI部分的算力
- e.g.集成至麒麟、high系列芯片等
- e.g.麒麟970、980、9000包含CPU、GPU、NPU,NPU即为昇腾内核
- 可独立使用的芯片
- 昇腾310:用于AI推理场景
- 昇腾910:用于AI训练场景
- nano/tiny/lite/mini:小芯片,不独立使用,集成在其他芯片中,提供AI部分的算力
- ②芯片使能层(在硬件之上的软件层,用于释放硬件的算力)
- 昇腾AI计算平台CANNcompute architecture for neural network
- 专门用于神经网络NN的框架
- 芯片驱动、调度、运行环境、算子库、加速库、算子开发工具
- 昇腾AI计算平台CANNcompute architecture for neural network
- ③AI框架层(构建深度神经网络模型)
- 设计原因:
- 直接通过芯片使能层调用芯片的算力,对于开发者而言存在一定难度,并且具有一定不合理性
- 如何通过算法实现神经网络模型,利用框架实现
- e.g. TensorFlow、pytorch、caffe框架
- 华为自研框架:MindSpore
- 端、边、云独立协同的统一训练和推理框架
- 设计原因:
- ④应用使能层(构建应用)
- 基于模型构建应用
- 包含:API、SDK、ModelArts
- ModelArts:华为云上的训练资源平台https://www.huaweicloud.com/product/modelarts.html