- 采用Nvidia官方基准测试:
GitHub - NVIDIA-AI-IOT/jetson_benchmarks: Jetson Benchmark
- 该基准测试中主要包含以下网络:
- Inception V4 : 299x299
- ResNet-50 : 224x224
- OpenPose : 256x456
- VGG-19 : 224x224
- YOLO-V3 : 608x608
- Super Resolution : 481x321
- Unet : 256x256
官方测试环境为Jetpack4.4,TensorRt7.本次测试采用环境为jetpack5.0.1 cuda 11.3 tensorrt 8.4.0
- 主要操作流程:
- git clone https://github.com/NVIDIA-AI-IOT/jetson_benchmarks.git
- cd jetson_benchmarks|mkdir model
- sudo sh install_requirements.sh #本次测试采用python3.8
- python3 utils/download_models.py --all --csv_file_path <path-to>/benchmark_csv/nx-benchmarks.csv --save_dir <absolute-path-to-downloaded-models> #下载测试模型
- sudo python3 benchmark.py --all --csv_file_path <path-to>/benchmark_csv/nx-benchmarks.csv --model_dir <absolute-path-to-downloaded-models> #运行所有测试模型
测试过程中GPU以最高频率921600000HZ运行,功率运行至最大
- 测试结果:
GPU运行结果:
Inception V4
FPS输出结果:
Model Name | FPS |
Inception V4 : 299x299 | 311.73 |
ResNet-50 : 224x224 | 824.02 |
pose_estimation | 237.1 |
VGG-19 : 224x224 | 66.43 |
YOLO-V3 : 608x608 | 546.69 |
Super Resolution : 481x321 | 150.46 |
Unet : 256x256 | 145.42 |
ssd-mobilenet-v1 | 887.6 |
可能报错:
设置路径时最好设置为绝对路径
大部分报错都是因为版本问题产生,本次测试安装包版本信息如下: