【已解决】onnx无法找到CUDA的路径

已于 2024-07-19 16:55:28 修改
阅读量4.2k 收藏 10
点赞数 14
分类专栏： 已解决 文章标签： 人工智能 深度学习 python pip
于 2024-07-19 15:29:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2202_75832991/article/details/140550441
版权

报错

RuntimeError: D:\a\_work\1\s\onnxruntime\python\onnxruntime_pybind_state.cc:857 onnxruntime::python::CreateExecutionProviderInstance CUDA_PATH is set bu
t CUDA wasnt able to be loaded. Please install the correct version of CUDA andcuDNN as mentioned in the GPU requirements page  (https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirements),  make sure they're in the PATH, and that your GPU is supported.
 

问题分析

onnx找到了gpu，但是还是不能调用

解决办法

  1. 先检查一下cudnn的环境变量配置是否正确，如果不正确，先看看怎么安装cudnn

  2. 接下来是环境变量没问题的情况

        环境变量没问题的话，一般就是cudnn和cuda以及onnx的版本不匹配

        版本匹配看这里

        查看好自己cudnn和cuda对应onnx版本后，输入这个

pip install onnxruntime-gpu==
最低0.47元/天 解锁文章
PyInstaller问题解决 onnxruntime-gpu 使用GPU和CUDA加速模型推理
黎国溥
09-07 1152
在模型推理时，需要使用GPU加速，相关的CUDA和CUDNN安装好后，通过onnxruntime-gpu实现。直接运行python程序是正常使用GPU的，如果使用PyInstaller将.py文件打包为.exe，发现只能使用CPU推理了。本文分析这个问题和提供解决方案，供大家参考。
如何使用 ONNX 结合 GPU 加速推理（CUDA 与 cuDNN 简明指南）
黎国溥
09-10 8094
在深度学习模型推理中，使用 GPU 进行加速是提升模型推理速度的关键方式之一。本文将带大家一步步了解如何使用 ONNX Runtime 结合 NVIDIA 的 CUDA 和 cuDNN 进行 GPU 加速。
已解决：EP Error onnxruntime-gpu无法找到cuda，无法调用onnxruntime_providers_cuda.dll
weixin_41700859的博客
12-23 3881
onnxruntime无法加载onnxruntime_providers_cuda.dll
GPU编程_The CUDA Toolkit v8.0 directory '' does not exist.
进击的小白
09-14 7734
最近在搞GPU编程时,使用vs2015编译cuda程序 但是却出现如下的错误 1>C:\Program Files (x86)\MSBuild\Microsoft.Cpp\v4.0\V140\BuildCustomizations\CUDA 8.0.targets(514,9): error : The CUDA Toolkit v8.0 directory '' does not ex
解决 Failed to load library libonnxruntime_providers_cuda.so with error: libcublasLt.so.12 问题
最新发布
我才是一卓的博客
03-06 916
注：CUDA 是大版本内互相兼容的，所以任意支持 CUDA-11 版本的。要求的 CUDA-12 与系统的 CUDA-11 版本不符导致。都支持任意 CUDA-11 版本的环境。直接安装支持 CUDA-11 的。重新运行代码，顺利结束。
pyinstaller打包onnxruntime-gpu报错找不到CUDA的解决方案
m0_55575697的博客
07-04 2586
会在这个目录中查找自定义的钩子（hooks）文件。钩子文件用于在打包过程中处理一些特殊的依赖或行为。2、电脑上已经安装与onnxruntime-gpu对应版本的cuda和cudnn，并加入了环境变量。使用onnxruntime-gpu完成了深度学习模型部署，但在打包时发生了报错：找不到CUDA。--additional-hooks-dir=.：指定一个额外的目录，--onefile：将所有的文件和依赖打包成一个单独的可执行文件。-w main.py：指定需要打包的py文件，不带控制台窗口打包。
ONNX模型推理 ｜ ONNX Runtime 找不到 CUDA，推理只能用 CPU 时的解决方案
weixin_44212848的博客
03-20 1万+
onnxruntime 推理时无法用上 GPU，onnxruntime 找不到 CUDA
【原创】解决onnxruntime不能使用cuda的问题
lilianji123456的博客
12-03 1863
记录一下onnxruntime的一个bug修复过程。
onnxruntime::python::CreateExecutionProviderInstance CUDA_PATH is set but CUDA wasnt able to be load
IT_ZB的博客
07-15 2532
若出现拒绝访问Anaconda的环境时，根据提示可加参数 --user。cuda 版本为12.x时，请使用下面的方式进行重新安装。2、排除cuda是否正确安装问题，和确定cuda的版本。1、根据这篇博客，确保cuda和cudnn的安装正确。4、如果以上方法还不行，请执行安装命令。3、版本cuda、cudnn和。
ONNX Runtime 与 CUDA、cuDNN 的版本对应
old_power的博客
02-19 1991
ONNX Runtime 与 CUDA、cuDNN 的版本对应关系是深度学习模型部署中的关键点，确保版本兼容性可以避免运行时错误并优化性能。以下是详细的版本对应关系及注意事项：
onnxruntime windows下cuda驱动文件
09-24
1. **环境变量设置**：将 CUDA 和 CUDNN 相关的库路径添加到系统 `PATH` 环境变量中，这样编译器和 ONNX Runtime 能够找到所需的库文件。 2. **编译配置**：如果你是从源代码编译 ONNX Runtime，需要在 CMake 配置...
【已解决】Could NOT find CUDA (missing: CUDA_INCLUDE_DIRS) (found suitable exact version “10.2“)
weixin_46353422的博客
08-05 1万+
【已解决】Could NOT find CUDA , missing: CUDA_INCLUDE_DIRS, found suitable exact version "10.2"问题描述解决方法运行结果 问题描述 在服务器上cmake编译openvslam时出现以下报错： 但是cuda安装了，环境变量也添加了，版本也可以查到。 也就是说：cuda明明安装了，但就是调用不到。 是因为cuda安装到的那个文件夹（/usr/local/cuda）访问权限没打开，所以只检查到有版本存在但是不能调用。 解决方法
CUDA安装完成后测试部分报错bash: ./nbody: No such file or directory
lindadasummer的博客
10-03 3506
根据nvidia官方给出的安装教程《CUDA Quick Start Guide》，其中测试部分的进行步骤为： 7. Install a writable copy of the samples then build and run the nbody sample: cuda-install-samples-9.0.sh ~ cd ~/NVIDIA_CUDA-9.0_Samples/5_
NOTFOUND CUDA_cublas_device_LIBRARY
热门推荐
Marvek的博客
04-28 1万+
CMake Error: The following variables are used in this project, but they are set to NOTFOUND. CUDA_cublas_device_LIBRARY (ADVANCED) fatal error: nvcuvid.h: No such file or directory
Failed to create CUDAExecutionProvider 使用onnxruntime-gpu未成功调用gpu
大雾的小屋的博客
01-08 9157
最近在使用GPU对onnx模型进行加速过程中（仅针对N卡，毕竟也没有别的显卡了。。），遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。
cuda找不到路径报错
weixin_43760440的博客
03-01 1429
编译C++文件时出现：error: [Errno 2] No such file or directory: ':/usr/local/cuda:/usr/local/cuda/bin/nvcc。在终端输入： export CUDA_HOME=/usr/local/cuda。
Windows下编译 yolo-fastest 或 darknet 提示CUDA not found 的解决方案
anqanq000的专栏
03-16 3133
Windows下编译 yolo-fastest 或 darknet 提示CUDA not found 的解决方案
【ONNXRuntime】python找不到指定的模块：onnxruntime\capi\onnxruntime_providers_shared.dll
豆芽菜
06-30 3470
【ONNXRuntime】python找不到指定的模块：onnxruntime\capi\onnxruntime_providers_shared.dll
ComfyUI: 报EP Error错误（onnxruntime）
聚梦小课堂
08-03 2855
*************** EP Error *************** EP Error D:\a\_work\1\s\onnxruntime\python\onnxruntime_pybind_state.cc:456 onnxruntime::python::RegisterTensorRTPluginsAsCustomOps Please install TensorRT libraries as mentioned in the GPU requirements page...
onnxruntime和cuda错误126
02-11
### ONNXRuntime CUDA 错误126 的解决方案 错误126通常表示找不到指定模块或其依赖项。对于ONNXRuntime与CUDA相关的错误126，可能的原因包括但不限于CUDA版本不匹配、环境变量配置不当以及缺少必要的DLL文件。 #### 1. 验证并调整CUDA版本兼容性 确保安装的CUDA版本与ONNXRuntime支持的版本相匹配非常重要。如果使用的CUDA版本过高或过低都可能导致加载失败[^1]。建议查阅官方文档确认当前ONNXRuntime所支持的具体CUDA版本范围，并据此选择合适的CUDA版本进行重新安装。 #### 2. 设置正确的环境变量路径 为了使系统能够找到所需的CUDA库文件，在安装完成后需正确设置`PATH`环境变量。具体来说，应将CUDA bin目录（如`C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vX.X\bin`）添加到系统的`PATH`环境中。这一步骤可以确保当程序尝试调用CUDA相关功能时能找到对应的动态链接库(DLL)。 #### 3. 安装缺失的Visual C++ Redistributable包 有时即使已经正确设置了环境变量但仍会遇到此类问题，这时可能是由于缺乏某些运行时组件所致。特别是针对较新的CUDA工具链而言，往往还需要额外安装对应版本的Microsoft Visual C++ Redistributable Package来满足依赖关系[^2]。 #### 4. 检查TensorRT及其插件是否正常工作 从报错信息来看，实际是在尝试加载名为`onnxruntime_providers_tensorrt.dll`的文件时发生了异常。这意味着除了基本的CUDA外，还涉及到对TensorRT的支持。因此也需要验证TensorRT本身及相关插件是否已成功部署并且处于可用状态。 ```bash # 使用命令行测试TensorRT是否存在及版本号 dpkg -l | grep tensorrt ``` 通过以上措施应该能有效解决大部分由错误126引发的问题。不过需要注意的是，具体情况可能会有所不同，所以在排查过程中还需结合实际情况灵活应对。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值