VitisAI的安装及其GPU环境的配置

VitisAI安装

1.前置安装

• 适配的系统型号

• 适配的显卡驱动

• 适配的CUDA和CUDNN

2.VitisAI安装

下列安装应以root用户模式安装

2.1 安装Docker

# 安装库
$ apt-get update
$ apt-get install \
    ca-certificates \
    curl \
    gnupg \
    lsb-release

# 添加key
$ mkdir -p /etc/apt/keyrings
$ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

# 设置安装位置
$ echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu \
  $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

#安装docker
$ apt-get install docker-ce docker-ce-cli containerd.io docker-compose-plugin
$ apt-cache madison docker-ce
下边的<VERSION_STRING>需要参考上个命令的结果
例如5:20.10.16~3-0~ubuntu-jammy或5:18.09.1~3-0~ubuntu-bionic
$ apt-get install docker-ce=<VERSION_STRING> docker-ce-cli=<VERSION_STRING> containerd.io docker-compose-plugin

# 验证安装结果
$ docker run hello-world

# 如果出现docker：Error response from daemon:xxxxxxxxxx
$ vi /etc/docker/daemon.json
添加如下内容：
{"registry-mirrors":["https://docker.mirrors.ustc.edu.cn"]
}
# 重新操作
$ docker run hello-world

2.2 安装Nvidia 的Docker环境

# ubuntu环境安装
curl -s -L https://nvidia.github.io/nvidia-container-runtime/gpgkey | \
  apt-key add -
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-container-runtime/$distribution/nvidia-container-runtime.list | \
  tee /etc/apt/sources.list.d/nvidia-container-runtime.list
apt-get update

# 进入网址安装包并配置环境
https://github.com/NVIDIA/nvidia-container-runtime
apt-get install nvidia-container-runtime
sudo mkdir -p /etc/systemd/system/docker.service.d
sudo tee /etc/systemd/system/docker.service.d/override.conf <<EOF
[Service]
ExecStart=
ExecStart=/usr/bin/dockerd --host=fd:// --add-runtime=nvidia=/usr/bin/nvidia-container-runtime
EOF
sudo systemctl daemon-reload
sudo systemctl restart docker

#如果上个命令出现“job for docker.service failed”问题
sudo vim /lib/systemd/system/docker.service

#将ExecStart = /usr/vub/dockerd -H df://
#修改成ExecStart = /usr/vub/dockerd -H df:// -s overlay2
sudo systemctl daemon-reload
sudo systemctl restart docker

2.3 安装VitisAI的Docker-GPU环境

# 下载完整的Vitis-AI包
$ git clone --recurse-submodules https://github.com/Xilinx/Vitis-AI

# 安装Vitis-AI
$ cd Vitis-AI

# 安装Vitis-AI的GPU环境
	#找到docker文件夹
	$ cd setup/docker
	#或者
	$ cd docker
	# 运行脚本
	$ ./docker_build_gpu.sh

#如果上述脚本在运行和安装时使用的是http://security.ubuntu.com/ubuntu/进行配置，那么请使用下方步骤
	#进入dockerfile文件夹，找到vitis-ai-gpu.Dockerfile文件
	$ vi dockerfiles/vitis-ai-gpu.Dockerfile
	#将下边两行内容粘贴到第二行
	RUN  sed -i s@/archive.ubuntu.com/@/mirrors.tuna.tsinghua.edu.cn/@g /etc/apt/sources.list
 	RUN  apt-get clean
 	RUN apt-get update
 	#重新运行脚本
 	$ ./docker_build_gpu.sh
#如果在最后出现诸如Error response from daemon的错误，请使用下方步骤
	#设置docker拉取镜像
	$ vi /etc/docker/daemon.json
	{
      "registry-mirrors": ["https://6gyvb655.mirror.aliyuncs.com"]
	}
	$ systemctl restart docker
	#如果还是不行，则尝试手动拉取数据
	$ docker pull xxxxx
#安装时间约3-6个小时

3.VitisAI-GPU测试

# 进入VitisAi文件夹
cd Vitis-AI
./docker_run.sh xilinx/vitis-ai-gpu:latest