在官网下载.whl文件:Jetson Zoo - eLinux.org
不用下载太高的版本,会出现很多问题,我的JetPack是4.5,安装了1.8.0版本:
pip install onnxruntime_gpu-1.8.0-cp36-cp36m-linux_aarch64.whl
然后import一下看看是否调用的GPU:
import onnxruntime
onnxruntime.get_device()
onnxruntime.get_available_providers()
如图所示即安装成功。