使用Vitis AI 部署YOLOv5至KV260

已于 2024-04-07 16:52:35 修改
阅读量3.2k 收藏 47
点赞数 36
文章标签： YOLO ubuntu
于 2024-03-17 22:36:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_52459277/article/details/136792157
版权

目录

一、相关介绍

二、相关链接参考

三、模型训练

四、环境部署

五、量化编译

六、上机KV260

一、相关介绍

如题，此博客记录初步使用Vitis-AI 部署YOLOv5目标检测网络至KV260边缘设备中。

由于整个过程需要注意环境、软件包等之间的版本匹配，我给出所使用的相关版本：

名称ubantuGPUGPU-DrivercudacudnnpytorchdockerYOLOv5vitis-aipython
HOST部署版本20.044060535.161.07 12.28.9.71.13

26.0.0

6.23.03.7

vitis3.0推荐

20.04-----520.61.05 or higher 11.8 or higher----------19.03 or higher---------------

二、相关链接参考

官方文档链接：

1. Vitis AI

2. Vitis AI 3.0 Documentation

3. Vitis AI Repository（github）

4. Vitis AI Tutorials Repository （github）

5. Vitis AI 3.0 用户指南 (UG1414)

6. Vitis AI Library 3.0 用户指南 (UG1354)

7. KV260

8. KV260 Introduction

9. AMD自适应计算文档门户

以下链接（不分先后顺序嗷~）都详细记录并分享了其量化部署过程，对于我本人的初步学习十分友好，对此特别感谢！

参考博客链接：

1. YOLOv5 Quantization & Compilation with Vitis AI 3.0 for Kria

2. 基于Vitis-AI的yolov5目标检测模型在ZCU102开发板上的部署过程分享

3. YOLOv5源代码使用Xilinx Vitis AI进行量化并部署到DPU上的全流程

4. Vitis-AI量化编译YOLOv5（Pytorch框架）并部署ZCU104（一）

三、模型训练

在块引用中的文字是注意事项或者提示，可以略过。

 在yolov5的训练中发现pytorch=1.12会报错：

nvrtc: error: invalid value for --gpu-architecture (-arch)

折腾很多种方法还是无法解决,这个问题可能是因为我的环境上有未发现的矛盾。于是我不得不使用pytorch=1.13 or 1.11来避开这个问题，但是后续预构建的vai-q-pytorch-gpu的docker含pytorch=1.12，以至于我不得不使用vitis-AI3.5构建的vai-q-pytorch-gpu:3.5

如果有解决办法还望告知，谢谢！

模型训练这一阶段网络上有很多教程，此外参考博客1注意到vitis-ai不支持SiLU（在官方文档UG1414中有介绍）:

26fb1df008cd42c6a0d2f7485f9186bd.png

图源 参考博客1

故在训练阶段，我们将原SiLU更改为Leaky ReLU。在models/common.py与modles/experimental.py 更改三处：

# commom.py Line 43
# self.act = nn.SiLU() if act is True else (act if isinstance(act, nn.Module) else nn.Identity())
self.act = nn.LeakyReLU(26/256,inplace=True) if act is True else (act if isinstance(act, nn.Module) else nn.Identity())

# commom.py Line 123
# self.act = nn.SiLU()
self.act = nn.LeakyReLU(26/256,inplace=True)

# experimental.py Line 55
# self.act = nn.SiLU()
self.act = nn.LeakyReLU(26/256,inplace=True)

更改后使用coco数据集训练，此处我们使用vitis-ai-library支持的模型yolov5n.pt作为初始模型训练（详见官方文档UG1354）。

得到训练好的best.pt文件后，在官方文档UG1414中提及：

9a0b550d0f274b32a66f37c1a45ddf74.png

图源 官方文档UG1414

 于是在models/yolo.py中需要删除后续处理。

#yolo.py Line 55
def forward(self, x):
    z = []  # inference output
    for i in range(self.nl):
        x[i] = self.m[i](x[i])  # conv

    return  x
    #     bs, _, ny, nx = x[i].shape  # x(bs,255,20,20) to x(bs,3,20,20,85)
    #     -----------

如果需要可在后处理中实现。以detect.py为例可访问参考博客1。

此时我们已经做好量化前的准备。

四、环境部署

环境部署官方文档UG1414中已经非常详尽地介绍，此处罗列以下重要步骤。

对于ubantu、cuda、GPU-Driver、anaconda、docker等的安装不再介绍。

1.克隆Vitis AI 3.0 存储库至/home/HOST

2.pull docker 映像文件，包括CPU、GPU两种

对于CPU，可直接pull：

docker pull xilinx/vitis-ai-pytorch-cpu:latest

对于GPU，需使用存储库内脚本，详情请参考官方文档UG1414：

其中带优化器由于需要商业许可证，无许可证不能使用，不必构建。

cd /Vitis-AI/docker
./docker_build.sh -t gpu -f opt_pytorch     #带优化器
./docker_build.sh -t gpu -f pytorch         #不带优化器

后续如果需要保存docker容器内更改，不建议直接在原镜像上保存，而是另存一个镜像。保存运行中的容器为一个新镜像的操作如下：参考链接

  • 新开一个终端查看正在运行的容器id
docker ps 
  • commit容器为新镜像，镜像名称需要带有[ gpu / cpu / rocm]，docker_run.sh带有判断
docker commit d81abcfd2e3b my_vai_pytorch_gpu:1.1

同时建议docker容器的访问使用vscode，图形化的界面方面更改脚本与运行。

验证GPU版本是否安装成功：

#确保docker内部可访问GPU
sudo apt purge nvidia* libnvidia*
sudo apt install nvidia-driver-xxx
sudo apt install nvidia-container-toolkit
#运行GPU映像
docker run --gpus all nvidia/cuda:11.3.1-cudnn8-runtime-ubuntu20.04 nvidia-smi

3.安装交叉编译环境

cd  Vitis-AI/board_setup/mpsoc
sudo chmod u+r+x host_cross_compiler_setup.sh
./host_cross_compiler_setup.sh  
unset LD_LIBRARY_PATH# if need
source ~/petalinux_sdk_2022.2/environment-setup-cortexa72-cortexa53-xilinx-linux
#验证交叉编译环境，编译通过未报错并生成可执行文件
cd Vitis-AI/examples/vai_runtime/resnet50_pt
bash -x build.sh

 之后每一次需要编译文件都需要使用以下命令更新path

unset LD_LIBRARY_PATH# if need
source ~/petalinux_sdk_2022.2/environment-setup-cortexa72-cortexa53-xilinx-linux

 4.设置目标KV260

  (1)下载映像文件并使用BalenaEtcher等工具上传到内存卡

（2)连接KV260键鼠、显示器、内存卡以及HOST与KV260之间的网线

（3)打开ubantu系统的网络分享

125d48c3f87b4d25a5f0912c6ae9ae87.png

  (4)进入KV260系统并使用其终端ifconfig 得到HOST分配的地址

  (5)HOST下载putty 使用ip地址连接KV260 (名称：root       密码：root）

（6)下载运行时文件至KV260，解压后使用scp移动文件

[HOST]$ scp -r vitis-ai-runtime-3.0.0/2022.2/aarch64/centos root@ip_address:~/

[KV260]$ cd ~/centos
[KV260]$ bash setup.sh

5.运行时示例

HOST下载模型文件（Vitis-AI/model_zoo/model_list对于每个预置模型.yaml处均有下载地址）

以resnet50为例，下载后scp至KV260

[HOST]$ scp resnet50-zcu102_zcu104_kv260-r3.0.0.tar.gz root@ip_address:~/

[KV260]$ tar -xzvf resnet50-zcu102_zcu104_kv260-r3.0.0.tar.gz
[KV260]$ cp resnet50 /usr/share/vitis_ai_library/models -r

KV260安装示例图片视频运行时

[HOST]$ scp vitis_ai_runtime_r3.0.0_image_video.tar.gz root@ip_address:~/

[KV260]$ tar -xzvf vitis_ai_runtime_r3.0.0_image_video.tar.gz -C Vitis-AI/examples/vai_runtime
[KV260]$ cd ~/Vitis-AI/examples/vai_runtime/resnet50
[KV260]$ resnet50 /usr/share/vitis_ai_library/models/resnet50_pruned_0_5_pt/resnet50_pruned_0_5.xmodel
#出现分类结果即可

注意：

模型位于目标上的 /usr/share/vitis_ai_library/models 

库文件存储在 /usr/lib 

图像视频包存储在Vitis-AI/examples/vai_library 

6.vitis-ai-library示例

以resnet18网络、使用pytorch示例

cd ~/Vitis-AI
mkdir -p resnet18/model

下载imagnet1000数据集并解压至~/Vitis-AI/resnet18，

从开源社区或者model zoo下载浮点模型resnet18.pth并存储于/resnet18/model/

cd resnet18/model
wget https://download.pytorch.org/models/resnet18-5c106cde.pth -O resnet18.pth

复制官方量化脚本至/resnet18

cp ~/Vitis-AI/examples/vai_quantizer/pytorch/resnet18_quant.py ./

run docker

cd ~/Vitis-AI
./docker_run.sh xilinx/vitis-ai-pytorch-cpu
conda activate vitis-ai-pytorch

评估浮点模型的准确性 float:

python resnet18_quant.py --quant_mode float --data_dir imagenet-mini --model_dir model

确定模型与目标DPU体系结构是否兼容:

python resnet18_quant.py --quant_mode float --inspect --target DPUCZDX8G_ISA1_B4096 --model_dir model
#生成txt文件

开始量化 calib：

python resnet18_quant.py --quant_mode calib --data_dir imagenet-mini --model_dir model --subset_len 200

# 如果量化成功将会有以下文件生成 
# quantize_result/ResNet.py       量化vai_q_pytorch模型
# quantize_result/Quant_info.json  张量的量化步骤
# quantize_result/bias_corr.pth

评估量化模型准确性 test：

python resnet18_quant.py --model_dir model --data_dir imagenet-mini --quant_mode test

 生成DPU量化文件：

python resnet18_quant.py --quant_mode test --subset_len 1 --batch_size=1 --model_dir model --data_dir imagenet-mini --deploy

#可以在quantize_result中找到resnet_int.xmodel

编译模型：

vai_c_xir -x ./quantize_result/resnet_int.xmodel -a /opt/vitis_ai/compiler/arch/DPUCZDX8G/KV260/arch.json -o resnet -n resnet
# 生成resnet18_pt文件夹 包含resnet18_pt.xmodel等文件

新建文件 resnet18_pt.prototxt并移动至resnet_18

model {
   name : "resnet18_pt"
   kernel {
         name: "resnet18_pt_0"
         mean: 103.53
         mean: 116.28
         mean: 123.675
         scale: 0.017429
         scale: 0.017507
         scale: 0.01712475
   }
   model_type : CLASSIFICATION
   classification_param {
          top_k : 5
          test_accuracy : false
          preprocess_type : VGG_PREPROCESS
   }

接下来可部署至KV260

在HOST上：

#传输量化文件
scp -r resnet18_pt root@ip_address:/usr/share/vitis_ai_library/models/
#下载图像和视频测试文件
wget https://www.xilinx.com/bin/public/openDownload?filename=vitis_ai_library_r3.0.0_images.tar.gz -O vitis_ai_library_r3.0.0_images.tar.gz
wget https://www.xilinx.com/bin/public/openDownload?filename=vitis_ai_library_r3.0.0_video.tar.gz -O vitis_ai_library_r3.0.0_video.tar.gz
scp  -r vitis_ai_library_r3.0.0_images.tar.gz root@ip_address:~/
scp  -r vitis_ai_library_r3.0.0_video.tar.gz root@ip_address:~/

 接下来的操作在KV260上：

#解压测试文件
tar -xzvf vitis_ai_library_r3.0.0_images.tar.gz -C ~/Vitis-AI/examples/vai_library/
tar -xzvf vitis_ai_library_r3.0.0_video.tar.gz -C ~/Vitis-AI/examples/vai_library/
#编译
cd ~/Vitis-AI/vai_library/samples/classification
./build.sh
#单图片测试
./test_jpeg_classification resnet18_pt ~/Vitis-AI/examples/vai_library/samples/classification/images/002.jpg
#单视频测试
./test_video_classification resnet18_pt ~/Vitis-AI/examples/vai_library/apps/seg_and_pose_detect/pose_960_540.avi -t 8
#实时推理
./test_video_classification resnet18_pt 0 -t 8

在使用HOST连接KV260之后，视频测试等需要实时输出画面，需要开启X11转发：

  • HOST与KV260安装VSCODE插件 remote x11
  • HOST config配置
  • KV260 bashrc配置

我遇到一个问题是插件找不到 /home/host/.shh/id_rsa 不能转发，于是重新生成了密钥

[HOST]$ ssh-keygen
[HOST]$ scp ~/.ssh/id_rsa.pub root@ip_address:~/.ssh/
[KV260]$ mv ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

默认会生成在~/.ssh/下

然后将id_rsa.pub 复制到KV260 ~/.ssh下，并重命名为authorized_keys

[HOST]$ vim /home/host/.shh/config
#Add
Host KV260
    HostName ip_address_KV260
    User root
    ForwardX11 yes
    ForwardX11Trusted yes
    ForwardAgent yes
    IdentityFile  "~/.ssh/id_rsa"

[KV260]$ vim ~/.bashrc
#Add
DISPLAY=ip_address_HOST:0.0

[KV260]$ source ~/.bashrc

如果不出意外，那么使用vitis-ai-library的示例已经让从我们将浮点模型量化后并在FPGA上运行！

五、量化编译

在完成相关环境部署和示例之后，我们可以开始将模型训练这一阶段得到浮点模型量化并部署到KV260平台中。

在官方文档UG1414中，VAI量化器工作流程如下图：

d58eb4d1c1284e76861ec71d9e080e2f.png

在量化器的安装上，可以根据自己需要调整pytorch版本（1.2~1.12)。

而CPU版本发布的docker内部含pytorch=1.13，由于我多次尝试更换GPU的pytorch版本失败，不得不使用CPU版本。（并且即使我成功将vai-q-pytorch-gpu安装在HOST的conda环境中，尝试calib(with fast_fintune)在HOST，test(需要xir工具，无力构建)在docker(CPU)，仍然会报错，这里要求calib和test使用同一个平台(CPU or GPU)。解决办法可能还是需要在docker内使用脚本更换pytorch版本。

其余详情内容请参考官方文档UG1414， 量化脚本请参考博客1。

需要注意的是在编译完成之后，传输到KV260的文件夹内应含以下四个文件：

68f8df4db26c4cf5a0af947afb9de5d2.png

对于.prototxt文件内容需要做相应的修改，使用netron导入.xmodel文件查看网络结构，更改输出层名。此处可参考KV260内 /usr/share/vitis_ai_library/models/yolov5_nano_pt 内 .prototxt 文件内容

这里需要注意每个output_layer_name的顺序，可以对照官方prototxt文件的顺序和xmodel的三个输出层的对应关系，更改自己模型对应的名字。不然检测结果依托答辩。

model {
  kernel {
     mean: 0.0
     mean: 0.0
     mean: 0.0
     scale: 0.00392156
     scale: 0.00392156
     scale: 0.00392156
  }
  model_type : YOLOv3
  yolo_v3_param {
    num_classes: 80         #number of class
    anchorCnt: 3
    layer_name: "ip_fix"  #output layer name
    layer_name: "ip2_fix"  #output layer name
    layer_name: "ip3_fix"  #output layer name
    conf_threshold: 0.5     #change if need
    nms_threshold: 0.65     #change if need
    biases: 10              #anchors
    biases: 13
    biases: 16
    biases: 30
    biases: 33 
    biases: 23
    biases: 30
    biases: 61
    biases: 62
    biases: 45 
    biases: 59
    biases: 119
    biases: 116
    biases: 90
    biases: 156
    biases: 198
    biases: 373 
    biases: 326  
    test_mAP: false
    type: YOLOV5
  }
  is_tf: true 
}

（网络结构太复杂，只截了一段结构）

b00c60862ea44cf88f06480d838980a3.png536e4aeeee184bd8a72ced08027516f2.png

 在这之后便可移动量化模型文件至KV260

scp -r yolov5n_cus root@ip_address:/usr/share/vitis_ai_library/models/

六、上机KV260

如同四（6）教程所示，如果我们不需要更改test源码，只需要输出检测框等基本功能，那么便可以在HOST上交叉编译或者在KV260上编译C++源码生成可执行文件，其源码位置在：

[HOST] $ cd ~/Vitis-AI/examples/vai_library/samples/yolov5
#or
[KV260]$ cd ~/Vitis-AI/examples/vai_library/samples/yolov5

进入源码文件后，可以直接编译生成可执行文件：

[HOST] $ unset LD_LIBRARY_PATH  #if need
[HOST] $ source ~/petalinux_sdk_2022.2/environment-setup-cortexa72-cortexa53-xilinx-linux
[HOST] $ bash -x build.sh
#or
[KV260] $ bash -x build.sh

在顺利生成可执行文件后，即可完成简单的预设检测任务。

#单图片测试
./test_jpeg_classification yolov5_cus ~/Vitis-AI/examples/vai_library/samples/classification/images/002.jpg
#单视频测试
./test_video_classification yolov5_cus ~/Vitis-AI/examples/vai_library/apps/seg_and_pose_detect/pose_960_540.avi -t 8
#实时推理
./test_video_classification yolov5_cus 0 -t 8

还在学习中~

樱叶落花
关注
Vitis-AI 量化编译Yolov5并部署至ZCU104（Pytorch框架)
RISCV_SDU的博客
12-13 956
知道问题后，接下来就是寻找2.5.0版本的下载包地址。1、我们使用的是pytorch框架的yolo模型，在使用vitis-ai量化前根据指导手册，要安装vai_q_pytorch，但是需要注意，我们在安装过程中一直在报错，如下图。那么问题只能是模型中存在了DPU不能够识别的算子，才会导致生成多个子图，我们打开DPUCZDX8G产品指南，可以清楚看到该型号下DPU所支持的算子，如下图。这一步才是最容易踩坑的地方！
Xilinx Vitis AI量化部署Yolov5至DPU (PYNQ)
热门推荐
weixin_43192572的博客
06-20 1万+
本文章记述了从YOLOv5源代码使用Xilinx Vitis AI进行量化并部署到DPU上的全流程。在开Pynq环境下运行测试通过。
Vitis-AI量化编译YOLOv5（Pytorch框架）并部署ZCU104（一）（代码已开源）
m0_45287781的博客
11-20 1万+
Vitis-AI进行量化编译
xilinx zynqMP zcu5ev自定义板运行vitis-ai
最新发布
qq_39299837的博客
09-24 580
最近在自定义zynqMP板上运行vitis-ai相关的东西，自定义板与官方的开发板套件有许多差异，光是板上运行环境就有很多不支持的，这一点就很不方便，踩了许多坑、看了许多文章后，最后终于能运行起一个简单的demo。本文记录一下使用官方的各种工具来达成目标的步骤，所使用的东西基本都是网上可以下载到的，自己动手开发写代码的步骤几乎为零。本文默认开发板环境已经能识别到dpu，如果识别不到，就需要自己去vitis配置fpga的IP核DPU，以及在kernel中开启Deep Learn Unit选项。
Vitis-ai(V3.0) YOLOV3的量化
qq_38300506的博客
01-18 1512
2）将自己YOLOV3推理所需要的代码移动到Vitis-AI-3.0\examples\vai_quantizer\pytorch内。3）cd 进入Vitis-AI-3.0\examples\vai_quantizer\pytorch内。3 配置VSCODE+WSL+Ubuntu（windows11/10子系统）1）从vscode 内采用快捷键(Ctrl+~)进入命令界面。参照resnet18.py直接调用模型，首先执行。2)训练自己的数据集、评估数据集、推理数据集。1）下载Vitis-ai3.0 版本。
Vitis-AI量化编译YOLOv5（Pytorch框架）并部署ZCU104（二）
m0_45287781的博客
11-24 6682
介绍如何将.Xmodel部署到ZCU104，并利用C++ API进行目标检测。
Vitis-AI量化编译YOLOv5（Pytorch框架）并部署ZCU104（三）
m0_45287781的博客
12-26 2459
前面两篇文章已经实现了yolo在ZCU104的部署，下面放一段yolo进行路面车辆检测的实例视频，并且本文还融合了SGBM算法进行双目测距。先将结果放在最前面，第一个是单纯目标检测，第二个视频是sgbm+目标检测yolo部署zcu104路面检测视频双目测距和目标检测融合这次主要是实现了软硬件融合开发，以及对传统算法的改进，可以看到上板效果很不错。但是只要人或物体出现在边缘，距离计算就很不准确，应该是标定的参数有些问题，后续继续规范规范标定参数，效果实现会更好。
通过Vitis Ai 3.0平台量化yolov5模型并部署到ZCU102板卡上相关问题求解！
weixin_55626974的博客
08-22 936
通过Vitis Ai 3.0平台量化yolov5模型并部署到ZCU102板卡上相关问题求解！
人工智能图像识别分析之——Yolov5模型搭建
congcianzaiqi的专栏
01-07 1510
问题1：下载失败yolov5s.pt文件，因为github为外网可能无法访问可能导致下载失败，可自行去 https://github.com/ultralytics/yolov5/releases/download/v6.1/yolov5s.pt下载（如果下载5.0版本就不会报问题3、4错误，此链接为作者提供链接）放在yolov5-5.0文件夹下即可。1）到https://github.com/ultralytics/yolov5/tree/master下载源码压缩包。
[ZCU102嵌入式开发]基于Vitis-AI的yolov5目标检测模型在ZCU102开发板上的部署过程分享
qq_36745999的博客
09-22 9688
基于Vitis-AI的yolov5目标检测模型量化移植，在ZCU102开发板的嵌入式系统上实现了yolov5的移植，能够使用DPU达到30fps的特征提取速率。本博客记录了整个移植思路，过程，并用相关代码进行解释说明，希望能够抛转引玉，寻找正在做类似工作的小伙伴交流学习。
xilinx vitis ai使用方法
05-20
### Xilinx Vitis AI 使用方法详解 #### 一、Vitis AI 开发工具包概述 Xilinx Vitis AI 是一个全面的开发环境，专为在Xilinx硬件平台上进行AI推理而设计，支持从边缘设备到Alveo加速卡等多种硬件。Vitis AI 由优化...
yolov5 kv260部署
09-15
根据引用的信息，你可以将YOLOv5的模型文件拷贝至`/usr/share/vitis_ai_library/models/yolov4_body/`目录下。 此外，你还可以考虑使用MobileNetV2-YOLOv4作为替代方案。根据引用的信息，MobileNetV2-YOLOv4具有更...
ai-在赛灵思fpga上部署yolov2算法-yolo部署.zip
01-28
5. **项目部署流程**：压缩包中的"ai_在赛灵思fpga上部署yolov2算法_yolo部署"可能包含了项目文档、源代码、配置文件等，使用者需按照文档指导，逐步完成模型的加载、编译、硬件映射和运行测试。 6. **挑战与注意...
vitis ai 模型部署到kv260
05-05
要将Vitis AI模型部署到KV260平台上，您需要按照以下步骤进行操作： 1. 在KV260平台上安装Vitis AI开发套件，具体步骤可以参考官方文档进行操作。 2. 将已经训练好的模型转换为Vitis AI支持的格式，可以使用vai_c_...
Xilinx KV260所需下载的资料
10-19
Xilinx Kria KV260是一款专为人工智能和深度学习应用设计的高性能开发板，集成了Xilinx的Versal AI Core系列 FPGA 和一系列周边硬件资源。为了充分利用这款开发板的功能，用户需要下载并安装一系列软件工具和教程...
【教程】基于Yolov5的食物识别：Xilinx Vitis AI模型量化、模型编译与系统搭建，使用Yolov5在Xilinx平台上进行食物识别：Vitis AI，模型量化、编译与系统搭建
EETyrCLVsCZw的博客
06-05 348
接下来，我们将介绍一种模型量化的方法。模型量化是一种减少模型计算量的技术，通过减少模型的参数和计算精度，可以在不降低模型准确率的情况下提高模型的计算速度。在基于yolov5的食物识别系统中，我们可以使用Xilinx的量化工具对yolov5模型进行量化处理。yolov5是一种基于深度学习的物体检测模型，它采用了一种称为YOLO（You Only Look Once）的技术，能够实现实时的物体检测和识别。本文将介绍一种基于Xilinx和Vitis AI的食物识别系统的模型量化、模型编译和系统搭建方法。
基YOLOV5实现的AI智能盒子
lixiang987654321的专栏
03-01 2061
AI盒子是基于yolov5框架开发的一套AI识别框架，可以支持多模型、多设备、多场景（算法）识别，支持http协议（同一个局域网）通信、支持websocket协议（不同局域网）通信，支持视频取流识别，支持接口图片AI识别、支持媒体视频转发（视频播放）等功能。AI盒子是独立的个体，可以单独部署，可以通过接口对接集成到第三方平台，通过AI算法利旧传统安防摄像机，为生活生产赋能。
【AI】YOLO学习笔记三-YOLOV5代码解析
zhoulizhu的博客
12-22 1491
YOLOv5是Glenn Jocher等人研发，它是Ultralytics公司的开源项目。YOLOv5根据参数量分为了n、s、m、l、x五种类型，其参数量依次上升，其效果也是越来越好。由于其代码是长期维护的且具有工程化的思维，所以方便应用在实际的项目中，对于CV领域的初学者来说，其代码具有很高的参考价值。我从自己学习的角度来说，很多时候我们读论文和读源码是有割裂感的，论文的内容比较精练，理解起来较为困难，源码的内容比较直接，但是其组织又是比较松散，结合论文和源码综合来理解，可能就会事半功倍了。
利用Vitis开发基于ZCU106的神经网络加速器（一）——Vitis概述及XRT编译
GaleZhang的博客
11-19 4367
前言 毕设要用到Xilinx家的ZCU106这块板子，了解到最近Xilinx统一了Vivado，XilinxSDK，并集成了常用开源IP核，推出了Vitis统一软件平台，使我们不再需要关注底层的Verilog实现，因此尝试使用Vitis开发一个神经网络加速器，作为毕设的基础。 Vitis架构 XRT 由上图可以看到，Xilinx为我们提供了各种各样的加速库，而XRT(Xilinx Runtime Library)则是我们的代码与Xilinx硬件交互的中间件和媒介。有了XRT，我们就可以用更上层的开发方
评论 17
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

樱叶落花

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值