环境:
windows 11
cuda 11.1
cudnn 8.6.0
TensorRT 8.5.1.7
cmake 3.24.3
visual studio 2019
步骤:
1、首先先新建一个文件夹用于存放下载的 onnxruntime 的源码:
我的是在:D:\onnxruntime
2、从cmd进入上面新建的文件夹 D:\onnxruntime
(注意,如果没有权限的话,就使用管理员身份进入)
下载源码:
git clone -b rel-1.12.0 --recursive https://github.com/Microsoft/onnxruntime
其中1.12.0是要下载的onnxruntime的版本
3、 打开 x64 Native Tools Command Prompt for VS 2019(以管理员身份运行)
(1)先进入onnxruntime文件夹:
cd /d D:\onnxruntime\onnxruntime
(2)进行编译:
.\build.bat --build_shared_lib --parallel --use_cuda --cuda_version 11.1 --cuda_home "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1" --cudnn_home "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1" --build_csharp --use_tensorrt --tensorrt_home "D:\lufiles\TensorRT-8.2.3.0" --cmake_generator "Visual Studio 16 2019" --skip_tests --config Release
注:需要把cuda、cudnn和TensorRT的路径换成自己的。
在编译过程中,我的报错:
error MSB4019: 找不到导入的项目“C:\Program Files (x86)\Microsoft Visual Studio\2019\Community\MSBuild\Microsoft\VC\v160\BuildCustomizations\CUDA 11.1.props”
解决办法:
从文件夹:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1\extras\visual_studio_integration\
MSBuildExtensions
里面的文件复制到文件夹:
C:\Program Files (x86)\Microsoft Visual Studio\2019\Community\MSBuild\Microsoft\VC\v160\
BuildCustomizations
再重新编译一遍就好了。
编译参考文章:
windows10 编译onnxruntime_onnx1.10 对应cuda-CSDN博客
[深度学习][onnxruntime]onnxruntime在windows10编译_onnxruntime win10-CSDN博客
报错参考文章: