华为昇腾一体机深度研究：国产AI算力的星辰大海

今天分享的是AI算力系列深度研究报告：《华为昇腾一体机深度研究：国产AI算力的星辰大海》。

（报告出品方：民生证券）

报告共计：28页

1 异腾一体机打通 AI 落地“最后一公里

异腾 AI 一体机是国内 AI 软硬件技术的黄金交点，是以国产算力领军者华为异腾 AI 基础软硬件平台为基础，联合国内领先 AI厂商打造的先进生产力工具。2023 年 7 月6日，华为异腾在 WAIC 2023 会上联合四家伙伴共同发布异腾 AI大模型训推一体化解决方案，双方通过共同设计、联合开发、协同上市、持续迭代，为企业带来“开箱即用”的大模型一体化解决方案。异腾 A 基础软硬件平台包含华为 Atlas 系列硬件及伙伴自有品牌硬件、异构计算架构 CANN、全场景 AI框架异思 MindSpore、异腾应用使能 MindX、一站式开发平台 ModelArts 和统工具链 MindStudio 等。

国内各厂商陆续发布合作款昇腾一体机，应用范围由科研逐步扩展到 AI 全场景乃至垂类模型落地。2023 年 3 月，华为昇腾与旗下华鹏振宇打造了专为高校和 科研院所设计的 AI 训练开发一体机，奠定了将 AI 算力、AI 平台软件、AI 开发框 架、开发组件和存储高效融合的算力底座基础架构；2023 年 6 月，软通动力发布 训推一体化平台，支持用户一站式 AI 开发、深度适配不同 AI 应用场景；2023 年 8 月起云从科技、科大讯飞、智谱 AI 等国内领先 AI 大模型厂商合作款昇腾一体机 面世，昇腾一体机应用范围扩展到 AI 全场景；后续医渡科技、安恒信息等公司将 昇腾一体机用于自身垂类模型落地。昇腾一体机凭借其领先的软硬件基础设施性 能，以及昇腾的优秀工程化能力，正逐渐成为千行百业大模型产业化重要抓手。

1.1 异腾一体机瞄准大模型本地化部署蓝海市场

1.1.1 本地化部署市场需求清晰

大模型本地化部署市场需求主要有数据安全需求和技术需求两大类:

1)数据安全需求: 三星芯片代码泄露事件为重要标志，大模型或能够永久学习泄露数据内容，造成不可逆损失。据澎拜新闻援引韩国媒体《economist》报道，2023 年3 月，三星内部发生三起涉及 ChatGPT 误用与滥用案例，包括两起“设备信息泄露”和一起“会议内容泄露”，报道称半导体设备测量资料、产品良率等内容或已被存入 ChatGPT 学习资料库中。据 Cyberhaven 统计，员工直接发给 ChatGPT 的企业数据中，有 11%都是敏感数据。

2)技术需求:使用本地化部署的大模型，可以让机构和个人在这种不断变化的市场环境中积累经验，而单单使用 API 则无法做到这一点。据 willows.ai，对于 AI 原生应用，需要了解模型的内部状态、梯度和中间输出结果，使用基于 API的模型，会限制进一步进行实验和增强模型的可能性。此外，AI 工程化开发成本较高，中小厂商难以负担，使用打包工程化能力的 AI 一体机能够降低中小厂商进行 AI 创业的门槛。

1.1.2 海外巨头争先入局验证赛道景气度

英伟达发布 L40S 强势切入大模型本地化部署市场，验证赛道景气度。英伟达L40S 不支