/onnxruntime_src/onnxruntime/core/session/provider_bridge_ort.cc:1193 onnxruntime::Provider& onnxruntime::ProviderLibrary::Get() [ONNXRuntimeError] : 1 : FAIL : Failed to load library libonnxruntime_providers_cuda.so with error: libcudart.so.11.0: cannot open shared object file: No such file or directory
问题来源:使用onnxruntime推理时,总是使用cpu;使用gpu时报错
- onnxruntime版本不对
onnxruntime有cpu和gpu版本,分别对应
pip install onnxruntime
和pip install onnxruntime-gpu
- 解决上一步后还有报错
pytorch官方的命令中,使用pip安装不会安装cudatoolkit,需要手动安装
conda install cudatoolkit