本文档详细介绍了如何在Jetson Nano上部署Yolov5目标检测模型，包括烧录系统镜像、安装远程登录工具PuTTY和WinSCP、设置VNC、安装DeepStream SDK、生成和测试yolov5s.engine文件，以及最终的部署和测试过程。适合对嵌入式AI和Jetson Nano感兴趣的读者。
目录
3.2 Install the DeepStream SDK
6.3 copy文件'yolov5s.wts' 文件到tensorrtx/yolov5/build目录下
1.烧录系统镜像
1.1 下载系统镜像
英伟达官方下载地址 ：https://developer.nvidia.com/embedded/downloads
下载系统镜像JetPack 4.5.1（注意有4GB和2GB两个版本，根据Jetson Nano的型号选择相应的版本），这里我是4G的镜像。
1.2 格式化 SD 卡
下载SD Card Formatter软件并安装，使用 SD Card Formatter 格式化 SD 卡。
下载地址：https://www.sdcard.org/downloads/formatter/sd-memory-card-formatter-for-windows-download/
1.3 使用 Etcher 写入镜像
下载Etcher软件并安装 ，下载地址：https://www.balena.io/etcher/
使用Etcher软件写入镜像,大概30分钟，镜像写入完成。单击Flash from file选中镜像压缩包。
1.4 使用SD卡开机
烧写完成后，将 SD 卡插入 Jetson Nano, 开机，完成一些设置，如时区、语言、输入法等。
2.远程登录工具
2.1 安装和使用远程登录工具PuTTY
(1）下载和安装PuTTY
下载地址：https://www.chiark.greenend.org.uk/~sgtatham/putty/
单击Next
选择自己的位置，单击next
单击Install
(2) 确定自己开发板的 IP 地址
在安装系统中，在界面通过 ctr+Alt+T 打开命令提示符，输入：ifconfig 找到对应的有线网卡 eth0 的 IP地址。eg.我的IP地址为：192.168.1.109
(3）使用PuTTY远程登录Nano开发板
打开 PuTTY , 输入IP地址和端口号（IP：192.168.1.109 端口号默认22），默认开启 ssh 服务，单击Open；输入用户名和密码后进入终端模式。
2.2 安装和使用远程文件传输软件WinSCP
WinSCP 是一个 Windows 环境下使用的 SSH 的开源图形化 SFTP 客户端，同时支持 SCP 协议。
它的主要功能是在本地与远程计算机间安全地复制文件，并且可以直接编辑文件。方便在 windows 和 linux 两个不同的系统之间传输文件。
下载地址： https://winscp.net/
下载安装步骤如下：
单击我接受
自定义安装位置，单击下一步
选择自己的安装位置
一路傻瓜式操作到最后一步~单击安装，即可完成。
主机名为ip地址：192.168.1.109，端口号默认22，用户名和密码为班子设置的用户名和密码，eg.用户名：ciwei
2.3 VNC 远程桌面控制（可用可不用 我这里没有用到）
(1) 安装 vino
利用PuTTY, 在Nano上执行：
sudo apt update
sudo apt install vino
(2) Enable VNC 服务
执行
sudo ln -s ../vino-server.service /usr/lib/systemd/user/graphical-
session.target.wants
配置 VNC server，执行
gsettings set org.gnome.Vino prompt-enabled false
gsettings set org.gnome.Vino require-encryption false
编辑 org.gnome.Vino.gschema.xml文件，执行
sudo vi /usr/share/glib-2.0/schemas/org.gnome.Vino.gschema.xml
文件最后添加
<key name='enabled' type='b'>
<summary>Enable remote access to the desktop</summary>
<description>
If true, allows remote access to the desktop via the RFB protocol. Users on remote machines may then connect to thedesktop using a VNC viewer.
</description>
<default>false</default>
</key>
设置为 Gnome 编译模式
sudo glib-compile-schemas /usr/share/glib-2.0/schemas
(3) 设置 VNC
登陆密码('thepassword' 修改为自己的密码)
gsettings set org.gnome.Vino authentication-methods "['vnc']"
gsettings set org.gnome.Vino vnc-password $(echo -n 'thepassword'|base64)
(4) 重启机器，验证是否设置 vnc 成功。
sudo reboot
(5) 设置开机自启动 VNC Server
上述方式属于手动启动，每次都需要手动启动会比较麻烦，下面会设置开机自启动的形式。
VNC 服务器只有在您本地登录到 Jetson Nano之后才可用。如果希望 VNC 自动可用，可使用系统设置应用程序来启用自动登录。
gsettings set org.gnome.Vino enabled true
mkdir -p ~/.config/autostart
vi ~/.config/autostart/vino-server.desktop
将下面的内容添加到该文件中，保存并退出。
[Desktop Entry]
Type=Application
Name=Vino VNC server
Exec=/usr/lib/vino/vino-server
NoDisplay=true
(6) 连接 VNC Server
使用 vnc viewer 软件进行 VNC 连接，首先需要查询 IP 地址； 输入 IP 地址后点击 OK，双击对应的VNC 用户输入密码，最后进入到 VNC 界面。
3.安装和测试DeepStream
3.1 Install Dependencies
在nano板子上的命令行，执行以下命令，安装需要的软件包：
sudo apt install \
libssl1.0.0 \
libgstreamer1.0-0 \（这一步第一次安装失败）
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstrtspserver-1.0-0 \
libjansson4=2.11-1（这一步第一次安装失败）
3.2 Install the DeepStream SDK
Using the DeepStream tar package
1.下载 DeepStream 5.1 Jetson tar package deepstream_sdk_v5.1.0_jetson.tbz2, 并用winscp拖到 Jetson Nano。
2.输入以下命令以提取并安装DeepStream SDK：
sudo tar -xvf deepstream_sdk_v5.1.0_jetson.tbz2 -C /
cd /opt/nvidia/deepstream/deepstream-5.1
sudo ./install.sh
sudo ldconfig
3.3 DeepStream测试（未进行测试）
执行命令：（编辑文件prebuild.sh，注释掉除yolov3-tiny的语句）
cd /opt/nvidia/deepstream/deepstream-5.1/sources/objectDetector_Yolo
执行命令：（下载yolov3-tiny.cfg和yolov3-tiny.weights）
./prebuild.sh
执行命令：
deepstream-app -c deepstream_app_config_yoloV3_tiny.txt
4.下载调试yolov5项目（computer!）
可参照本人前几篇博客下载调试~步骤如下：
1.安装Anaconda和Pycharm 并下载yolov5代码
2.安装所需库：（pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt）
3.将权重文件yolov5s.pt/yolov5m.pt/yolov5l.pt/yolov5x.pt放置在weights文件夹下
4.训练自己的数据集
另：这里我用的yolov5s第四版，用之前的版本在生成yolov5.engine时会报错。
5.生成wts文件（computer!）
5.1 克隆tensorrtx
git clone https://github.com/wang-xinyu/tensorrtx.git
克隆失败的话直接去上述网址下载。
5.2 生成yolov5s.wts文件
将文件tensorrtx/yolov5/gen_wts.py 复制到自己的yolov5文件夹下，同时将自己的best.pt也复制到主文件夹下。
修改gen_wts.py为：
确保yolov5s.pt and yolov5s.wts在gen_wts.py下，cd 进入yolov5文件夹下 执行：
python gen_wts.py
'yolov5s.wts' 生成
6 生成yolov5s.engine文件（Nano!）
（每次修改参数后都需要重新生成engine）
6.1 克隆tensorrtx
克隆tensorrtx文件夹至nano板子上。
6.2 编译tensorrtx/yolov5
修改yolov5文件夹下yololayer.h ，默认类别数80改为1。
cd 进入tensorrtx/yolov5 ，执行以下代码。（确保yolov5.cpp is s）
mkdir build
cd build
cmake ..
make
注意: by default, yolov5 script generate model with batch size = 1, FP16 mode and s model.（我使用的S网络，不需要修改）
#define USE_FP16 // comment out this if want to use FP32
#define DEVICE 0 // GPU id
#define NMS_THRESH 0.4
#define CONF_THRESH 0.5
#define BATCH_SIZE 1
#define NET s // s m l x
如果你需要改变上述默认参数，可在编译前修改文件 yolov5.cpp，还可改变yololayer.h中的参数。
static constexpr int CLASS_NUM = 80;
static constexpr int INPUT_H = 608;
static constexpr int INPUT_W = 608;
6.3 copy文件'yolov5s.wts' 文件到tensorrtx/yolov5/build目录下
6.4 生成yolov5s.engine
输入以下命令执行：
sudo ./yolov5 -s yolov5s.wts yolov5s.engine s
sudo ./yolov5 -d yolov5s.engine ../samples
7 使用DeepStream部署yolov5s
7.1 拷贝yolov5 deepstream文件
拷贝yolov5.zip（这里是他们给出的官方yolov5）到/opt/nvidia/deepstream/deepstream-5.1/sources/，然后解压文件。
sudo chmod -R 777 /opt/nvidia/deepstream/deepstream-5.1/sources/
cd /opt/nvidia/deepstream/deepstream-5.1/sources/
unzip yolov5.zip
7.2 拷贝yolov5.engine
cp /home/ciwei（改为自己的用户名）/tensorrtx/yolov5/build/yolov5s.engine /opt/nvidia/deepstream/deepstream-5.1/sources/yolov5
备注：yolov5 deepstream文件yolov5.zip的来源：https://github.com/marcoslucianops/DeepStream-Yolo
修改文件夹DeepStream-Yolo/external/yolov5/nvdsinfer_custom_impl_Yolo下的文件yololayer.h和yololayer.cu使其可以在YOLOv5 V4.0上工作
7.3 编译
针对自己的数据集，修改config_infer_primary.txt中的参数，以及类别名称文件labels.txt。
num-detected-classes=80
labels修改为：fire
修改后执行：
cd /opt/nvidia/deepstream/deepstream-5.1/sources/yolov5
CUDA_VER=10.2 make -C nvdsinfer_custom_impl_Yolo
samples下有测试图片，可以用来测试：
另.如要改变NMS_THRESH, 编辑文件nvdsinfer_custom_impl_Yolo/nvdsparsebbox_Yolo.cpp并重新编译。（不需修改 默认）
#define kNMS_THRESH 0.45
如要改变CONF_THRESH, 编辑文件config_infer_primary.txt。（不需修改 默认）
[class-attrs-all]
pre-cluster-threshold=0.25
8 部署测试
8.1 测试视频文件推理
cd /opt/nvidia/deepstream/deepstream-5.1/sources/yolov5
deepstream-app -c deepstream_app_config.txt
默认视频的路径在deepstream_app_config.txt文档中，打开查看或修改，路径如下：
8.2 USB摄像头视频测试
摄像头检测指令：
ls /dev/video*（简单）
v4l2-ctl --list-devices（完整指令）
v4l2-ctl --device=/dev/video0 --list-formats-ext（细致指令）
v4l2-ctl --device=/dev/video1 --list-formats-ext
安装v4l-utils工具：
sudo apt install v4l-utils
YOLOv5 USB摄像头视频测试命令：
deepstream-app -c source1_usb_dec_infer_yolov5.txt
8.3 CSI摄像头视频测试
deepstream-app -c source1_csi_dec_infer_yolov5.txt
扫一扫
157
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
