Vitis AI 环境搭建 & KV260 PYNQ 安装 & 要点总结

于 2024-04-20 22:25:36 发布
阅读量1.1k 收藏 11
点赞数 31
文章标签： 人工智能 Zynq fpga开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/DongDong314/article/details/137990170
版权

目录

1. 环境

2. 工具及版本介绍

2.1 工具版本兼容性

2.2 DPU结构

2.3 DPU命名规则

3. Vitis AI 配置要点

3.1 配置安装 Docker 库

3.2 Install Docker Engine

3.3 添加 Docker 用户组并测试

3.4 克隆 Vitis AI 库

3.5 构建 Docker （直接抓取）

3.6 运行 Docker

3.7 安装 Jupyter Lab

4. PYNQ for KV260 配置要点

4.1 烧录 Ubuntu 22.04 LTS

4.2 配置网络

4.3 关闭图形桌面

4.4 添加 AMD 软件源并更新升级 Kernel

4.5 配置 Docker (optional)

4.6 安装 xrt zocl driver (optional)

4.7 安装 Pynq (需配置代理)

4.8 Jupyter Lab 安装中文支持包

4.9 域名解析

1. 环境

Host: Ubuntu 22.04.4 LTS

Embeded: kv260 with Ubuntu 22.04

AMD KV260 starts with Ubuntu 22.04 icon-default.png?t=N7T8https://www.amd.com/zh-cn/products/system-on-modules/kria/k26/kv260-vision-starter-kit/getting-started-ubuntu/getting-started.html

2. 工具及版本介绍

GitHub - Xilinx/Vitis-AI at 2.5Vitis AI is Xilinx’s development stack for AI inference on Xilinx hardware platforms, including both edge devices and Alveo cards. - GitHub - Xilinx/Vitis-AI at 2.5icon-default.png?t=N7T8https://github.com/Xilinx/Vitis-AI/tree/2.5

2.1 工具版本兼容性

IP and Tool Version Compatibility — Vitis™ AI 3.0 documentation

Software Tools VersionDPUCDZX8G IP VersionViTis AI Release Version
Vivado / Vitis / Petalinux 2022.24.1v3.0
Vivado / Vitis / Petalinux 2022.14v2.5
Vivado / Vitis / Petalinux 2021.23.4v2.0
Vivado / Vitis / Petalinux 2021.13.3v1.4
Vivado / Vitis / Petalinux 2020.23.3v1.3
Vivado / Vitis / Petalinux 2020.13.2v1.2
Vivado / Vitis / Petalinux 2019.23.2v1.1
Vivado / Vitis / Petalinux 2019.13.1v1.0
Vivado / Petalinux 2019.13N/A
Vivado / Petalinux 2018.22N/A
Vivado / Petalinux 2018.11First Release

PYNQ for Kria SOMs：

PYNQ for Kria SOMsPYNQ support and examples for Kria SOMs. Contribute to Xilinx/Kria-PYNQ development by creating an account on GitHub.icon-default.png?t=N7T8https://github.com/Xilinx/Kria-PYNQ

DPU-PYNQ (v2.5)
This overlay contains a Vitis-AI 2.5.0 Deep Learning Processor Unit (DPU) and comes with a variety of notebook examples with pre-trained ML models.

Supported boards: KV260, KR260, KD240

从官方给的信息可以看出，KV260 PYNQ Installation 使用的是 Vitis-AI 2.5.0，对应的工具版本Vivado / Vitis / Petalinux 2022.1。

2.2 DPU结构

2.3 DPU命名规则

KV260使用DPUCZDX8G IP，表示：

应用领域：CNN

硬件平台：Zynq DDR

量化方法：decent

Decent：一种量化与优化工具，主要用于对神经网络模型进行压缩和量化，以适配于赛灵思的DPU硬件。Decent支持多种量化策略，包括定点量化（通常为INT8量化）。这种工具的目的是通过减小模型的存储与计算需求来优化执行效率，同时尽量保持推理精度。
Integer threshold：一种量化方法，使用整数阈值来确定量化的位宽和位置。
Float threshold：这种方法使用浮点数阈值来进行量化，与整数阈值类似，但使用的是浮点数。
RNN：循环神经网络（Recurrent Neural Network）的缩写，这是一种用于处理序列数据的神经网络结构，通常在量化时需要特别考虑，因为它们的时间依赖性。

量化精度：8 bit

设计目标：通用

3. Vitis AI 配置要点

3.1 配置安装 Docker 库

  1. sudo apt update
  2. sudo apt install ca-certificates curl gnupg
  3. sudo install -m 0755 -d /etc/apt/keyrings
  4. curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
  5. sudo chmod a+r /etc/apt/keyrings/docker.gpg
  6. echo "deb [arch="$(dpkg --print-architecture)" signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu \
  7. "$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
  8. sudo apt update

参考：Install Docker Engine on Ubuntu | Docker Docs

3.2 Install Docker Engine

  1. sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
  • docker-ce: 这是Docker社区版（Community Edition）的包名。
  • docker-ce-cli: 这是Docker社区版的命令行界面工具的包名，允许用户通过命令行与Docker交互。
  • containerd.io: 这是一个开源容器运行时，Docker用它来管理容器的生命周期。它负责镜像的传输和存储、容器的执行和监控以及任务的分配。
  • docker-buildx-plugin: 这是Docker的一个插件，允许用户通过使用Buildx构建功能，构建多平台镜像、利用缓存等高级构建功能。
  • docker-compose-plugin: 这是Docker Compose的插件，Docker Compose是一个用于定义和运行多容器Docker应用程序的工具。通过一个YAML文件来配置应用服务，然后使用一个单一的命令，就可以创建并启动所有的服务。

3.3 添加 Docker 用户组并测试

  1. sudo groupadd docker
  2. sudo usermod -aG docker $USER
  3. newgrp docker

运行：docker run hello-world，进行测试，打印 “hello world” 则成功。

3.4 克隆 Vitis AI 库

  1. git clone https://github.com/Xilinx/Vitis-AI/tree/2.5
  2. cd Vitis-AI

3.5 构建 Docker （直接抓取）

  1. docker pull xilinx/vitis-ai-cpu:latest  

3.6 运行 Docker

  1. ./docker_run.sh xilinx/vitis-ai-cpu:latest
ubuntu@ubuntu:$ ./docker_run.sh xilinx/vitis-ai-cpu:latest
Setting up ubuntu's environment in the Docker container...
usermod: no changes
Running as vitis-ai-user with ID 0 and group 0 


==========================================
 
__      ___ _   _                   _____
\ \    / (_) | (_)            /\   |_   _|
 \ \  / / _| |_ _ ___ ______ /  \    | |
  \ \/ / | | __| / __|______/ /\ \   | |
   \  /  | | |_| \__ \     / ____ \ _| |_
    \/   |_|\__|_|___/    /_/    \_\_____|
 
==========================================

Docker Image Version: 2.5.0.1260   (CPU) 
Vitis AI Git Hash: 502703c 
Build Date: 2022-06-12

For TensorFlow 1.15 Workflows do:
     conda activate vitis-ai-tensorflow 
For PyTorch Workflows do:
     conda activate vitis-ai-pytorch 
For TensorFlow 2.8 Workflows do:
     conda activate vitis-ai-tensorflow2 
For WeGo Tensorflow 1.15 Workflows do:
     conda activate vitis-ai-wego-tf1 
For WeGo Tensorflow 2.8 Workflows do:
     conda activate vitis-ai-wego-tf2 
For WeGo Torch Workflows do:
     conda activate vitis-ai-wego-torch 
Vitis-AI /workspace >

出现如上结果，表示启动docker成功，注意版本信息。

3.7 安装 Jupyter Lab

  • jupyter --version # 查看是否安装jupyterlab
jupyter --version
Selected Jupyter core packages...
IPython          : 8.12.2
ipykernel        : 6.23.3
ipywidgets       : 8.0.6
jupyter_client   : 8.3.0
jupyter_core     : 5.3.0
jupyter_server   : 2.6.0
jupyterlab       : not installed
nbclient         : 0.8.0
nbconvert        : 7.6.0
nbformat         : 5.9.0
notebook         : 6.5.4
qtconsole        : 5.4.3
traitlets        : 5.9.0
  1. pip install jupyterlab
  2. jupyter lab # 进入jupyterlab
  3. pip install jupyterlab-language-pack-zh-CN

4. PYNQ for KV260 配置要点

4.1 烧录 Ubuntu 22.04 LTS

烧录 Ubuntu 22.04 LTSicon-default.png?t=N7T8https://www.amd.com/zh-cn/products/system-on-modules/kria/k26/kv260-vision-starter-kit/getting-started-ubuntu/getting-started.html

4.2 配置网络

4.3 关闭图形桌面

  1. xmutil desktop_disable

4.4 添加 AMD 软件源并更新升级 Kernel

  1. sudo add-apt-repository ppa:xilinx-apps
  2. sudo add-apt-repository ppa:ubuntu-xilinx/sdk
  3. sudo apt update
  4. sudo apt upgrade

4.5 配置 Docker (optional)

  1. sudo groupadd docker
  2. sudo usermod -a -G docker  $USER
  3. newgrp docker

4.6 安装 xrt zocl driver (optional)

  1. sudo apt install xrt-dkms

4.7 安装 Pynq (需配置代理)

  1. git clone https://github.com/Xilinx/Kria-PYNQ.git
  2. cd Kria-PYNQ
  3. 需要修改install.sh文件
  4. sudo bash install.sh -b KV260

4.8 Jupyter Lab 安装中文支持包

  1. pip install jupyterlab-language-pack-zh-CN

4.9 域名解析

  1. C:\Windows\System32\drivers\etc\hosts
  2. 添加：192.168.101.224 kria

hi94
关注
  • 31
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
使用Vitis AI 部署YOLOv5至KV260
weixin_52459277的博客
03-17 2114
如题，此博客记录初步使用Vitis-AI 部署YOLOv5目标检测网络至KV260边缘设备中。
Xilinx Vitis AI量化部署Yolov5至DPU (PYNQ)
weixin_43192572的博客
06-20 8827
本文章记述了从YOLOv5源代码使用Xilinx Vitis AI进行量化并部署到DPU上的全流程。在开Pynq环境下运行测试通过。
PYNQ-Z2使用Vitis2020新建工程
weixin_42464527的博客
09-21 2190
PYNQ-Z2使用Vitis2020新建工程 软件版本：Vitis2020.2开发套件 PYNQ开发包资料:密码:l4gl 将PYNQ-Z2资料包Board_File中的PYNQ-Z2文件夹复制到Vitis安装目录下Vivado\2020.2\data\boards\board_files,这样在创建工程时可以快速选择板卡文件 1、安装Vitis,打开vivado,左上角依次点击File–>project–>New,然后点击next,依次输入工程名,和存放的路径,如果勾选Create pro
Xilinx Kria KV260 开发记录（一）Vitis AI 安装
qq_41660112的博客
08-02 1273
关键：操作系统20.04520.61.05或者以上，19.03，当然这里也支持英伟达的Docker。除此之外，也有CPU版本和支持AMD ROCm技术的版本可以使用。用于u存放和安装Vitis AI的硬盘空间必须大于100GB。
Vitis-AI 3.0 GPU Docker 安装踩坑及修改
QHY0227的博客
05-18 1565
参考视频参考blog安装的版本为vitis ai 3.0特别鸣谢ChatGPT。
DPU-PYNQ使用笔记
u014798590的博客
11-14 4123
Ubuntu端 查看模型的结构 可以使用Ubuntu中的Netron软件查看模型结构（Summary） 量化（quantizing) 官方给出了量化的工作流程图，输入模型为浮点模型，其中预处理环节主要工作为折叠和删除无用节点，然后将模型的权重/偏差与激活 （weights/biases and activations）量化到给定的位宽。 To capture activation statistics and improve the accuracy of quantized models, the V
Vitis AI环境搭建
风间琉璃的博客
10-13 2588
大多数用户设置Docker的存储库并从中安装，以便安装和升级。在新主机上首次安装 Docker Engine 之前，需要设置 Docker 存储库。然后后，可以从存储库安装和更新 Docker。旧版本的 Docker 被称为docker,docker.io或docker-engine。如果安装了这些，需要卸载它们。但是，docker的大部分数据还是被保留了下来。的 Docker Engine、containerd 和 Docker Compose。②主机上的映像、容器、卷或自定义配置文件不会自动删除。
Vitis初探—1.将设计从SDSoC/Vivado HLS迁移到Vitis上
lulugay的博客
11-26 8086
前言 2020.11.25日，Xilinx更新了Vitis2020.2版本。正好之前报名里Xilinx的自适应计算挑战赛，比赛要求使用Vitis平台进行开发，所以今天趁着新版本发布把我之前参加DAC-SDC的项目SkrSkr迁移到Vitis平台上。之前听过一些介绍说Vitis将SDAccel和SDSoC合并到了一起，并使用OpenCL语言，所以在项目迁移之前我还是有点打怵的，但是经过一天的尝试基本搞定了。整个流程走下来感觉Vitis跟SDSoC换汤不换药，只是调用加速器的方式稍有变化，整体的设计思想还是一致
xilinx vitis ai使用方法
05-20
xilinx vitis AI工具介绍 安装方法 算法部署
Xilinx Alveo加速卡Vitis开发环境异构计算DEMO
01-28
给予Xilinx FPGA软件开发环境。 使用xilinx官方vitis example创建的向量加法demo，包括Host、Kernel、Link三部分的工程。适合Alveo加速卡的初学者和小白学习项目结构和加速原理。 Host部分使用OpenCL，Kernel使用 ...
Vitis-AI3.0版本（gpu版本）pytorch及pytorch优化器docker镜像
04-09
本资源为Vitis-AI3.0版本docker镜像的.tar文件的下载链接，适用于NVIDIA显卡硬件平台，内置pytorch量化编译器镜像以及pytorch优化器镜像 使用方法： 使用docker load指令将镜像文件导入后（导入后可以使用docker ...
FPGA MPSoC_XCZU4EV实现搭建最小系统工程（VITIS实现）.zip
04-27
FPGA MPSoC XCZU2CG、XCZU2EG和XCZU4EV驱动程序。 基于VITIS实现。 项目代码可顺利编译运行~
FPGA MPSoC_XCZU2EG实现搭建最小系统工程（VITIS实现）.zip
04-27
FPGA MPSoC XCZU2CG、XCZU2EG和XCZU4EV驱动程序。 基于VITIS实现。 项目代码可顺利编译运行~
Vitis-AI量化编译YOLOv5（Pytorch框架）并部署ZCU104（一）（代码已开源）
m0_45287781的博客
11-20 9193
Vitis-AI进行量化编译
KV260 BOOT.BIN更新 ubuntu22.04 netplan修改IP
最新发布
u010879745的博客
04-03 620
KV260 BOOT.BIN更新 ubuntu22.04不再采用network修改IP，而是用netplan修改IP
RTthread与linux核间通信并在线升级RTthread
wangjie36的博客
08-19 6719
使用env软件执行scons --useconfig=amp_config确保 RT-Thread 处于amp模式，然后使用menuconfig开启matrix_multiply_demo相关宏。7，RKDevTool烧写到RK板子：系统运行起来，在linux端执行 rpmsg_matrix_multiply，在RT-Thread端执行rpmsg_matrix_multiply_demo应用程序可以看到矩阵数据传输及运算都正常。先编译RT-Thread源码，并使用打包工具生成待更新固件。
【vitis-ai docker_gpu 国内编译教程】
威儿笑的博客
01-30 2499
xilinx vitis-ai 1.3.2 docker_gpu 编译
xilinx 暑期学校学习笔记(Day 6) Vitis及PYNQ-Z2上的Canny边缘提取
战斗果冻的训练中心
07-25 2005
VITIS 基本地位 其地位相当于是系统内核，将底层的平台硬件抽象，将AI模型部署到DPU上。 优化器 神经网络的裁剪，将权重为0 的连接去除。 支持Caffe,Darknet,TensorFlow 量化器 权重和激活量化成8bit 支持校准 支持Caffe,TensorFlow,Pytorch(Q1,2020) 有GPU和CPU版本 量化后的精度下降一般在1%以下。 编译器 将量化后的神经网络编译成DPU能识别的东西 分析器 对生成后每层网络的性能等数据进行分析。 Runtime ...
vitis ai 模型部署到kv260
05-05
要将Vitis AI模型部署到KV260平台上，您需要按照以下步骤进行操作： 1. 在KV260平台上安装Vitis AI开发套件，具体步骤可以参考官方文档进行操作。 2. 将已经训练好的模型转换为Vitis AI支持的格式，可以使用vai_c_tensorflow命令进行转换。转换后的格式可以是Xilinx DPU支持的格式，也可以是TensorFlow Lite格式。 3. 在KV260平台上使用Vitis AI Runtime API加载模型，并使用开发板上的摄像头或者其他输入设备获取输入数据。 4. 将输入数据输入到模型中进行推理，并将推理结果输出到显示设备或者其他输出设备上。 以上就是将Vitis AI模型部署到KV260平台的大致步骤。具体实现过程可能会比较复杂，需要根据具体情况进行调整。您可以参考Xilinx官方提供的示例代码进行学习和参考。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值