昇腾芯片 & 昇思 MindSpore 大模型训练平台 | 昇思25天学习打卡营第1天 | wordworld

华为昇腾（Ascend）芯片

昇腾（Ascend）芯片是由华为自主设计、研发的人工智能算力芯片。最具代表性的，包括 2019 年发布的支持全场景人工智能应用的昇腾 910 系列、以及低功耗的面向边缘计算的昇腾 310 系列。

芯片指标	Ascend310	Ascend910
FP16-TOPS	8	256
INT8-TOPS	16	512
最大功耗	8w	350w
制程	12nm	7nm

• 对比 Nvidia 芯片

芯片	显存	INT8-TOPS	FP16-TOPS	最大功耗
A10	24	250	500	150
A40	48	299	598	300
A100	80	624	1248	300
H100	80		3958	700
P4	8	22		75
P40	24	47		250
T4	16	130		70
V100	32	62		300
K80	12x2		8.74 TFlops	300
3090	24	285		450
4090	24	1177		425
5000	32		1044 TFLOPS	250

昇思 MindSpore 大模型训练平台

昇思 MindSpore 是一个包含了用于大语言模型推理、训练、调试等场景的开发框架。对昇腾（Ascend）全系列芯片做了完备的支持和优化。提供各类 AI 算法库的多层级访问的 Python API。下图是 MindSpore 的主要工作流程：

python 模块 mindspore 的常用类

class	用途
nn	模型定义和训练
dataset.MnistDataset	MNIST 数据集
dataset.vision	图像处理
dataset.transforms	数据变换

参考

• Ascend 官方 gitee 仓库
• MindSpore 基本介绍
• MindSpore 快速入门
• 解密昇腾AI处理器–Ascend310简介