0. 说明
- Vitis AI 最新版是3.5,设备要求较高,主要有:
关键:操作系统Ubuntu 20.04,Cuda驱动版本 520.61.05以上或者CUDA 11.8以上, Docker版本大于19.03 ,当然这里也支持英伟达的Docker。
除此之外,也有CPU版本和支持AMD ROCm技术的版本可以使用。用于u存放和安装Vitis AI的硬盘空间必须大于100GB,建议200-300GB。
1. 前期准备
这里默认已经装好系统 Ubuntu 20.04,驱动 252.125.06,cuda 12.0.1,如图所示。
根据官方指导,在安装前需要首先安装docker以及nvidia-container-toolkit。
0. docker 安装
# 更新包列表
sudo apt update
# 使用apt安装一些允许通过HTTPS才能使用的软件包
sudo apt install apt-transport-https ca-certificates curl software-properties-common
# 将官方Docker存储库的GPG密钥添加到您的系统
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
# 将Docker存储库添加到APT源
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu bionic stable"
# 使用新添加的repo源中的Docker包更新包数据库
sudo apt update
# 安装docker
sudo apt install docker-ce
# 查看docker状态
sudo systemctl status docker
# 验证输出版本信息
docker version
错误: Got permission denied while trying to connect to the Docker
daemon socket at unix:///var/run/docker.sock: Get
"http://%2Fvar%2Frun%2Fdocker.sock/v1.24/images/json": dial unix
/var/run/docker.sock: connect: permission denied
遇到这个错误是因为没有加入用户组,没有权限的原因,将当前用户名加入用户组即可:
sudo groupadd docker #添加docker用户组
sudo gpasswd -a $USER docker #将登陆用户加入到docker用户组中
newgrp docker #更新用户组
docker images #测试docker命令是否可以使用sudo正常使用
运行docker images没有错误且正常输出即可。
1. nvidia-container-toolkit安装
# Add the package repositories
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker
安装完重启docker即可。
1. Vitis-AI 安装
git clone https://github.com/Xilinx/Vitis-AI # 下载
cd Vitis-AI # 进入文件夹
cd docker # 进入docker文件夹
./docker_build.sh -t gpu -f pytorch # 进行安装
错误2:ERROR: open /home/fqq/.docker/buildx/activity/default: permission denied
FAILD build base image
这是因为default文件在管理员权限下,无法进行读取,要把文件权限改为其他普通用户才能进行读取。
sudo chown 用户名 文件名
进行更改即可。
./docker_build.sh -t gpu -f pytorch # 进行安装
再次安装,弹出一些授权信息,多案几次回车,最后输入y进行确认安装。一直显示一些安装信息如下图所示。
等待几分钟----十几分钟时间,就可以安装完成。
最终显示构建完成即可。 注意构建时输出的参数,
--build-arg VAI_BASE=nvidia/cuda:11.7.1-cudnn8-devel-ubuntu20.04
该参数说明当前构建的Vitis-AI使用的是cuda11.7版本,所以构建完成后需要拉取nvidia/cuda:11.7.1-cudnn8-devel-ubuntu20.04这一个镜像来使用构建的docker。
2. 拉取cuda镜像,启动Vitis-AI docker
运行命令:自动拉取镜像
docker run --gpus all nvidia/cuda:11.7.1-cudnn8-devel-ubuntu20.04 nvidia-smi
显示出显卡信息即可。
查看构建的镜像信息:
docker images
可以看到,构建的镜像名为: xilinx/vitis-ai-pytorch-gpu TAG: 3.5.0.001-
接下来,最后一步,启动
./docker_run.sh xilinx/vitis-ai-pytorch-gpu:3.5.0.001-
经过几次回车就显示出Vitis-AI标志了,说明安装成功!
参考链接:
- [Docker] Ubuntu系统下Nvidia docker安装_ubuntu 安装nvidia docker_there2belief的博客-CSDN博客
- https://www.cnblogs.com/TF511/p/16417749.html
- Xilinx Ubuntu环境下docker&Vitis AI 3.0基于GPU的环境安装_ubuntu安装vitis_L.fountain的博客-CSDN博客
- Installation Guide — container-toolkit 1.13.5 documentation
- Host Installation Instructions — Vitis™ AI 3.5 documentation