CUDA、cudnn和OnnxRuntime版本对应
官网查看版本,需要一一对应,否则无法正常运行;
CUDA更新最快,OnnxRuntime最慢,需要根据OnnxRuntime版本下载安装CUDA和cudnn
CUDA:
cuda_11.8.0_522.06_windows
CUDA Toolkit Archive | NVIDIA Developer
- Step1:双击cuda_11.8.0_522.06_windows.exe运行安装;
- Step2:同意并继续;
软件许可
- Step3:自定义下一步直到安装完成;
安装选项
cudnn:
cudnn-windows-x86_64-8.5.0.96_cuda11-archive
cuDNN Archive | NVIDIA Developer
- Step1:解压cudnn-windows-x86_64-8.5.0.96_cuda11-archive.zip;
- Step2:cudnn-windows-x86_64-8.5.0.96_cuda11-archive\bin中所有文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin;
- Step3:cudnn-windows-x86_64-8.5.0.96_cuda11-archive\lib中所有文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib\x64;
- 以上路径根据你选择的版本和路径来,一般路径都是默认路径
zlibwapi.dll:
http://www.winimage.com/zLibDll/zlib123dllx64.zip
- Step1:解压zlib123dllx64.zip;
- Step2:zlib123dllx64\dll_x64中zlibwapi.dll拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin;
- 无zlibwapi.dll在推理时会出现闪退
OnnxRuntime(NuGet包):
Microsoft.ML.OnnxRuntime.Gpu 1.6.3
参考C#onnxruntime模型部署时,无法在 DLL“onnxruntime”中找到名为“OrtGetApiBase”的入口点的解决方法-CSDN博客