首次使用华为的Atlas500的智能小站,从零开始摸索到成功部署一个项目到小站上。写篇博客总结记录一下:
本篇文章基于昇腾社区文档进行配置
https://www.hiascend.com/document
在欧拉系统创建docker容器部署样例
在实际操作过程中,A500-3000的欧拉系统限制过多,cann的工具包和推理包安装失败,因此与开发文档思路一致,使用docker镜像来部署推理样例。
但是使用dockerfile文件自主安装所需步骤较为繁琐,在这里我采用拉取昇腾已经配置好的镜像进行开发部署样例
拉取镜像
在上述网站内选择自己所需的镜像,拉取镜像,并将这些命令输入到SSH终端
拉取之前记得设置自己的下载凭证
输入命令查看镜像列表
docker images
创建推理容器
挂载命令
因为我们的容器是一个需要使用NPU算力的推理环境,因此我们在运行镜像成为容器的时候,需要将容器的一些NPU相关目录与A500的NPU目录进行挂载
下面为官方的挂载目录命令,但是入股或我们一个一个搜索相应目录,会发现部分目录找不到
docker run -it \
--device=/dev/davinci0 \
--device=/dev/davinci_manager \
--device=/dev/devmm_svm \
--device=/dev/hisi_hdc \
-v /usr/local/dcmi:/usr/local/dcmi \
-v /var/log/npu:/var/log/npu \
-v /usr/local/Ascend/driver:/usr/local/Ascend/driver \
-v /usr/slog:/usr/slog \
-v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \
-v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \
-v /usr/local/Ascend/driver/tools/:/usr/local/Ascend/driver/tools/ \
-v /usr/local/Ascend/add-ons/:/usr/local/Ascend/add-ons/ \
-v /data:/data \
ascendhub.huawei.com/public-ascendhub/infer-modelzoo:{tag} \
/bin/bash
因此解决方法如下:
1.在usr/local/目录下创建一个Ascend文件夹
cd /usr/local
mkdir Ascend
2.找到/driver目录,并复制到Ascend下
ll /home/data/miniD
cp -r /home/data/miniD/driver Ascend
3.赋予Acend目录相应权限
chmod 755 Ascend
4.输入上述挂载命令,即可以成功创建容器
在进入容器之时可以使用 -u root命令以root用户启动容器
5.在容器内部输入命令查看是否能使用npu
npu-smi info
出现该图片则可以使用
拉取样例
这个时候就可以根据自己所需在昇腾的样例仓库找寻自己想使用的样例了