Jetson Orin AGX 上ONNX转换为engine时警告:[W] [TRT] Unknown embedded device detected. Using 59655Mi as the allocation cap for memory on embedded devices.
环境
- 设备:Jetson Orin AGX
- Model:Jetson AGX Orin - Jetpack 5.1.1 [L4T 35.3.1]
- Distribution: Ubuntu 20.04 focal
- Release: 5.10.104-tegra
- CUDA: 11.4.315
- cuDNN: 8.6.0.166
- TensorRT: 8.5.2
- VPI: 2.2.7
- Vulkan: 1.3.204
- OpenCV: 4.5.4 - with CUDA: NO
报错代码
我是在进行onnx文件转化为engine文件时疯狂print该警告
$ ./build/build ./weights/s4_best.onnx
解决办法
讨论1
讨论2
讨论3
讨论4
查了很久,到外网看了很多遇到同样问题的大佬之间的讨论,在一个开发者和官方的讨论中确定(见下图)这个警告是没有什么实际影响,不会影响你的模型的最终的精度和速度。