昇腾AI软硬件基础知识

前言

随着时代发展科技进步，AI深刻推动社会发展，同时挑战也随之而来，其中最大的挑战就是算力昂贵和然才稀缺，为此昇腾力争成为最强竞争力的AI基础软硬件平台。

---

基础知识

1.AI异构计算架构CANN的定义

CANN是华为针对AI场景推出的异构计算架构通过提供多层次的编程接口，支持用户快速构建基于Ascend平台的AI应用和业务。

CANN 包含

统一APP编程语言:提供一套标准的AscendCL编程接口，对应用程序开发者屏蔽底层多种芯片差异，提升用户APP编程易用性

统一网络构图接口:提供了标准的异腾计算AIR，支持多框架，支持用户在昇腾芯片上快速部署神经网络业务

高性能计算引整以及算子库:通过高性能编译引率执行引擎/调优引擎和预置高性能算子库，支撑客户快速部盟神经网络业务、降低部署成本并最大程度发挥昇腾计算能力

基础服务:驱动、虚拟化、媒体、集合通信等能力

2.昇腾计算服务层

昇腾算子库AOL

算子在硬件上的加速计算构成了加速神经网络的基础和核心

昇腾调优引擎AOE

AOE用于在推理、训练等场景对模型、算子、子图等进行调优，充分利用硬件资源，不断提升网络的性能

3.昇腾计算编译层

4.昇腾计算基础层

五个组件:

RMS:资源管理，负责管理与调度异腾设备的计算、显存等关键资源

CMS:通信管理，负责提供片内、片间高效通信

DMS:设备管理，负责对异腾设备进行配置、切分、升级、故障检测等管理

DRV:芯片IP驱动，负责使能硬件

UTILITY:公共服务，负责提供基础库和系统维测能力

五个竞争力:

高性能:微秒级确定性调度、数据零拷贝等技术打造高性能数据面

高可信:五道安全防线构建异腾解决方案可信底座

归一化:-套架构-接口-代码支撑多芯、多板、多场累

弹性:端/边/云灵活适应，虚机/容器/裸金属快速部署，算力细粒度按需切分

开源开放:Ascend社区、Linux社区开源两步走，构建异腾基础生态