华为云Ascend310服务器使用

最新推荐文章于 2024-08-08 09:45:39 发布

廖泽松

最新推荐文章于 2024-08-08 09:45:39 发布

阅读量1.7k

点赞数

文章标签：华为云服务器运维

本文链接：https://blog.csdn.net/weixin_35928208/article/details/134332385

版权

本文详细描述了如何在华为云服务器上配置CPU（16vCPUsKunpeng920）、内存、GPU（4颗HUAWEIAscend310），升级CANN及NPU驱动，安装Docker并配置dockerCE，以及使用AscendDocker。后续步骤包括在基础镜像上进行程序编译和调试，以创建自定义Docker镜像。

摘要由CSDN通过智能技术生成

使用华为云服务器

cpu: 16vCPUs Kunpeng 920
内存：16GiB   
gpu：'4* HUAWEI Ascend 310
cann: 20.1.rc1
操作系统：Ubuntu aarch64

目的

使用该服务器进行docker镜像编译，测试模型。
已知生产环境：mindx版本为3.0.rc3，npu为310P，cpu为 Kunpeng 920

宿主机cann升级

cann下载地址：https://www.hiascend.com/developer/download/community/result?module=dl+pt+cann&dl=3.0.0.alpha&pt=6.0.1.alpha001&cann=6.0.1.alpha001
npu驱动下载地址：
https://www.hiascend.com/hardware/firmware-drivers/community?product=2&model=2&cann=6.3.RC1.alpha001&driver=1.0.18.alpha
在这里插入图片描述

升级cann和驱动
chmod +x Ascend-cann-toolkit_6.0.1_linux-aarch64.run
./Ascend-cann-toolkit_6.0.1_linux-aarch64.run --install --install-for-all
reboot

chmod +x A300-3000-npu-driver_6.0.0_linux-aarch64.run
./A300-3000-npu-driver_6.0.0_linux-aarch64.run --full --install-for-all
reboot

查看是否升级成功
npu-smi info

华为云安装docker

docker插件下载地址：https://gitee.com/ascend/ascend-docker-runtime

vi /etc/apt/sources.list
deb https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu/ bionic stable
curl -fsSL https://repo.huaweicloud.com/docker-ce/linux/debian/gpg | sudo apt-key add -
apt-get update 
apt-get install -y docker-ce
systemctl start docker
docker version
chmod +x Ascend-docker-runtime_5.0.RC3.1_linux-aarch64.run
./Ascend-docker-runtime_5.0.RC3.1_linux-aarch64.run --install
systemctl restart docker
systemctl enable docker

寻找huawei docker基础镜像

ascendhub.huawei.com
比如 https://ascendhub.huawei.com/#/detail/infer-modelzoo
在这里插入图片描述
注意：拉取镜像权限密钥24小时过期，需重新申请。

后续

在基础镜像上，尝试程序编译，调试。
成功后，对应编辑Dockerfile文件，重新打镜像。
比如：

FROM ascendhub.huawei.com/public-ascendhub/infer-modelzoo:22.0.0
EXPOSE 80
USER root
COPY ./ /home/cloud/
WORKDIR /home/cloud/
RUN apt update \
        && apt install python3.8 python3.8-dev python3.8-distutils python3.8-venv -y \
        && python3.8 /home/cloud/get-pip.py \
        && python3.8 -m pip install -r /home/cloud/requirements.txt -i https://mirror.baidu.com/pypi/simple
ENV LD_PRELOAD /usr/local/lib/python3.8/dist-packages/torch/lib/libgomp-d22c30c5.so.1
CMD ["/usr/bin/python3.8","/home/cloud/xxxx.py"]