1.1 案例开发目标
本图文案例通过复现Mindx高性能预训练模型vnet训练推理,详细展示了通过MindStudio进行MindX SDK应用开发的全流程,内容包含MindStudio部署安装、MindX SDK工程创建、modelarts训练、pipeline功能介绍等。
1.2 案例内容重点技术环节
本图文案例重点分析和展示MindX SDK应用开发技术环节。
安装MindX SDK软件包:在不同场景下如何安装MindX SDK软件包
构建模型训练:连接Modelarts进行模型训练的复现,通过和OBS的交互,使用训练脚本完成训练。
创建应用工程:MindX SDK推理工程通过创建Ascend App实现,需要远程同步程服务器的 Cann 包,其中SDK推理需要选择Mindx SDK Project (python)模板,并安装SDK应用。MxBase推理通过Mindx SDK Plugin模板执行编译推理。
开发流程:Mindx高性能预训练模型的训练推理需要首先通过华为云平台的Modelarts进行训练得到精度达标的权重,使用SDK服务器将模型冻结成推理用文件,使用SDK应用进行推理和MxBase插件进行推理复现。
Mindx高性能预训练模型vnet训练推理:具体实现代码和复现代码可见该网址,其中modelarts文件夹即为训练脚本,infer文件夹中包含了数据处理、模型转换、SDK和MxBase推理实现等脚本。
详细内容请转至华为云论坛:https://bbs.huaweicloud.com/forum/thread-0213990232874470022-1-1.html