NVIDIA AGX Xavier 使用记录

NVIDIA AGX Xavier 使用记录

硬件信息

NVIDIA AGX Xavier 安装torch和对应torchvision

Jetpack 4.5.1
CUDA 10.2
python=3.6.9
这两个版本比较重要，原因是需要装torch要大于1.7版本的，而大于1.7版本的torch需要装Jetpack，
相关版本，可查看：https://forums.developer.nvidia.com/t/pytorch-for-jetson-version-1-9-0-now-available/72048
对应版本的.whl下载地址：https://elinux.org/Jetson_Zoo#PyTorch_.28Caffe2.29
查看方法可以通过jtop然后下面6INFO来看
jtop安装方式为

# jtop 命令查看cpu和GPU情况
sudo -H pip install jetson-stats

本次安装torch==1.8.0

安装torchvision

git clone -b v0.7.0 https://github.com/pytorch/vision
cd vision
sudo python3 setup.py install

下载onnxruntime

https://elinux.org/Jetson_Zoo#PyTorch_.28Caffe2.29

tensorrt

tensorrt 7.1.3.0

yoloxs 前向推理时间对比

稀疏率：0.5
onnx：

tensorrt：

tensorrt fp6：

tensorrt int8:

稀疏率：0.8
tensorrt fp16：

Reference

https://www.cnblogs.com/stacso/p/15130329.html
https://elinux.org/Jetson_Zoo#PyTorch_.28Caffe2.29
https://blog.csdn.net/Cameron_Rin/article/details/128442082
https://blog.csdn.net/weixin_43653152/article/details/125938135
https://cloud.tencent.com/developer/article/1803089