Jeston NX运行Bytetrack+tensorrt加速

1.基本配置情况

jetpack:4.4

2.虚拟环境与pytorch

1）虚拟环境平台：miniforge

须知：板载平台上的支持GPU的pytorch平台需要手动下载，并且官网上支持jetpack4.4版本的pytorch需要的是python3.6。

由于与anaconda和miniconda相关的源和镜像源中不再维护aarch64的python3.6，因此选用miniforge虚拟环境平台，miniforge在NX板子上的具体安装可以参考网络上的一些帖子，特备注意下载的miniforge的版本要是aarch64的。

2）pytorch安装

NX板子上支持GPU的pytorch的安装不能直接pip需要从NVIDIA官网下载编译好的文件。链接如下，在NVIDIA官网中已经将安装，所需要依赖，验证这些写的很清楚了：PyTorch for Jetson - Jetson & Embedded Systems / Jetson Nano - NVIDIA Developer Forums

在安装过程中所需要注意的是：

• 在安装前确认好自己板子的jetpack版本，主要是区分4和5，根据版本下载pytorch。
• 针对jetpack4，pytorch最好下载1.9以上的。因为pytorch和torchvision有对应关系，而在ByteTrack的requirements.txt文件中要求torchvision>=0.10.0。（这也是我在后面部署Bytetrack时才发现的，我个人是安装的pytorch1.8，运行一些demo是没问题的）

3.跑通ByteTrack

1）安装

ByteTrack的github（镜像，不需要梯子）：GitHub - ifzhang/ByteTrack: [ECCV 2022] ByteTrack: Multi-Object Tracking by Associating Every Detection Box (nuaa.cf)

具体的安装过程参考ByteTrack的github，同时建议手动pip requirements.txt文件中的包，因为在这个过程中有些包的安装耗时长，也会遇到缺少依赖报错的问题，因此建议分别安装，一问题一个问题解决，确保所有包都成功安装。我个人在安装和部署的过程中遇到了很多的报错，如下是我记录的一些问题，不是很全面有些问题并没有记录：

• 在运行demo时会出现Illegal instruction的报错。这其实是与numpy的版本的bug有关，pip默认下载的是1.19.5，而我们需要卸载numpy1.19.5，重新pip下载numpy==1.19.4。
• 在安装或者运行的过程中可能回报错缺少lap库。而lap库的安装不能直接安装，而是：

  Pip3 install ‘git+https://hub.nuaa.cf/gatagat/lap.git’

2）运行

这里重点说明tensorrt加速的运行，在虚拟环境内使用tensorrt需要将本地的tensorrt与虚拟环境链接，因此需要软链接：

~/miniforge-pypy3/envs/byte/lib/python3.6/site-packages$ ln -s /usr/lib/python3.6/dist-packages/tensorrt/tensorrt.so tensorrt.so

还需要将tensorrt所在环境添加到虚拟环境当中：  

export PYTHONPATH=/usr/lib/python3.6/dist-packages:$PYTHONPATH

参考;jetson 系列 安装完jetpack/已安装 tensorrt 在虚拟环境中仍然报 no module named tensorrt ＞＞ 在虚拟环境建立软连接_已经安装了tensorrt显示没有这个模型-CSDN博客

注意：在模型转换的过程中可能还会出现内存不足killed的现象，这里可以将trt.py文件中的max_workspace_size减小。