MindSpore目前支持Atlas 200I DK A2吗？

问题描述

想学习一下，但是受限于成本使用了Atlas 200I DK A2的开发板，这个开发板能做分布式训练吗，能用来深度开发吗？如果不能请问能够平替的软硬件是什么？

解决方案

目前的情况是，mindspore训练的话，在a2上是有少数几个支持，比如resnet50训练cifar10数据集，lenet训练mnist数据集；在线推理的话（就是直接用mindspore框架加载训练好的ckpt文件来推理）是部分模型支持，比能支持训练的模型肯定要多，但总体来说可能也不是太多（这个我没测试太多模型，所以不好确定）；但如果离线推理的话，大部分模型是支持的（包括一些大模型），然后离线推理其实目前官方有两种方案，一种是走mslite（mindspore lite），就是要安装好mslite，然后把在其它地方用mindspore训练好的模型，导出成mindir格式，然后用mslite包加载推理（这种放在在CPU、GPU、910上都是通用的，很多模型一套代码改个参数就能在不同的环境推理），还有一种是走昇腾cann的acl，就是mindspore在昇腾910环境训练好模型后，导出成air格式，然后用a2上的atc工具（这个工具是昇腾cann的，a2环境装好后，肯定有这个工具，包括acl的那套api也都有了），转换成om格式（我个人理解就是类似于GPU上的tensorRT推理模式），用acl api加载进行推理，这种方式只支持昇腾环境（CPU和GPU不行），但有个优势是om格式是事先编译好的，就是加载om模型启动推理速度很快，mslite的方式在a2上加载模型推理可能需要进行预编译，以及其它一些与操作，所以启动的过程会比较慢一些；

在使用a2的过程中，有一个注意点是，a2的内存其实是显存和内存共用的，上述情况中，mindspore的训练，以及在线推理，对于内存消耗是比较大的（主要是启动过程中的预编译等一些预操作内存消耗很大），然后模型本身还会占用显存，所以a2开发版其实是不建议跑训练和在线推理的，推荐的方式是mslite离线推理或者acl离线推理；如果还是想体验一下训练resnet50或者在线推理一个模型的话，要注意a2板子的内存，a2板子有4GB和12GB两种规格，4GB规格的我估计很难运行成功（内存太小的原因，但也不是一定不行，lenet或许可以试试），12GB的话也需要设置一下交换内存，否则一开始的编译过程内存都会不够；

顺便提一下，如果你手上有香橙派aipro开发板的话，或许能有更好的体验（芯片、算力以及环境适配其实和a2是一模一样的，但它内存大），aipro目前有4种内存规格，8GB、16GB、12GB、24GB，我目前在16GB上测试下来是，lenet+mnist训练的话不需要设置交换内存就能跑起来，但resnet50+cifar10数据集训练需要设置交换内存，我这边是设置了16G的swap，但如果在24GB的aipro上训练resnet50+cifar10数据集，就不用设置交换内存。

补充一下，要说分布式的话，昇腾官方的分布式通信技术是hccl，但目前a2的芯片应该还是不支持的（不是太确定，但大概率是），如果要分布式的话，得用其它方式通信（可能得自己实现），但不论怎么评测，a2这一类开发板，受限于算力和内存大小，都不适合做训练，只能说理论上非要做的话，也是能运行起来的，但性能肯定很差； 还有a2开发板，可以做ascend c算子开发的，这个你感兴趣的话，可以关注一下，这一块目前是昇腾算子那块儿发展的重点，目前也有相关的比赛可以去了解一下。