选择应用场景
https://onnxruntime.ai/getting-started
前置准备
需确认Ubuntu、cuda、cudnn版本信息,进而确定需要安装的onnxruntime版本信息。
1. Ubuntu系统版本
lsb_release -a
或者
cat /etc/lsb-release
补充:查看内核版本号
cat /proc/version
2. CUDA版本和cuDNN版本
(1)查看cuda允许安装最大版本
nvidia-smi
(2)查看cuda实际安装版本
nvcc -V
或者
nvcc --version
(3)查看cuDNN版本
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
若未安装cuDNN,则通过以下链接选择合适版本
https://developer.nvidia.com/rdp/cudnn-archive
对于cuDNN 8.9.6版本,可通过如下链接安装
https://docs.nvidia.com/deeplearning/cudnn/archives/cudnn-896/install-guide/index.html
3. ONNXRUNTIME版本
https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html
https://onnxruntime.ai/docs/build/inferencing.html