cuda12.x 版本使用onnxruntime-gpu报错的问题

最新推荐文章于 2024-12-23 23:10:14 发布
最新推荐文章于 2024-12-23 23:10:14 发布
阅读量410 收藏 1
点赞数 3
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Akk555/article/details/141465699
版权

# 报错显示

to be loaded. Please install the correct version of CUDA andcuDNN as mentioned in the GPU requirements page  (https://onnxruntime.ai/docs/execution-providers/CUDA-Ex
ecutionProvider.html#requirements),  make sure they're in the PATH, and that your GPU is supported.
 

当cuda为12.x时 应该使用下面的方法


pip uninstall onnxruntime-gpu
pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/

lizbjyw
关注
onnxruntime-gpu用pyinstaller打包报错找不到CUDA解决方案
认真努力，做一只会飞的毛毛虫。
01-13 9107
问题由来：在将深度学习模型转为onnx格式后，由于不需要依赖之前框架环境，仅仅需要由onnxruntime-gpu或onnxruntime即可运行，因此用pyinstaller打包将更加方便。但在实际打包过程中发现，CPU版本的onnxruntime通过pyinstaller打包后生成的exe第三方可以顺利调用，而GPU版本的onnxruntime-gpu则会出现找不到CUDA报错的情况，但实际上电脑已经安装了对应版本的CUDA(如10.1、10.2)。 问题分析：起初博主以为是anaconda环境管理.
onnx模型部署:onnxruntime-gpu安装与测试(Python版)
qq_53545309的博客
07-20 2454
在 conda 环境中安装，不依赖于 本地主机 上已安装的 cuda 和 cudnn 版本，灵活方便。要注意：onnxruntime-gpu, cuda, cudnn三者的版本要对应，否则会报错 或 不能使用GPU推理。如果需要其他的版本， 可以根据 onnxruntime-gpu, cuda, cudnn 三者对应关系自行组合测试。想要 onnx 模型在 GPU 上加速推理，需要安装 onnxruntime-gpu。不依赖于 本地主机 上已安装的 cuda 和 cudnn 版本。
ONNXRuntime与CUDA版本对应
热门推荐
向上生长的程序媛的博客
04-12 1万+
onnxruntime-gpu版本可以说是一个非常简单易用的框架，因为通常用pytorch训练的模型，在部署时，会首先转换成onnx，而onnxruntime和onnx又是有着同一个爸爸，无疑，在op的支持上肯定是最好的。通常在安装onnxruntime时，需要将其版本与pytorch版本和CUDA版本进行对应，其中ONNXRuntime与CUDA版本对应关系表如下表所示。选好版本后，使用以下命令进行安装onnxruntime。X.X.X表示版本号。
【环境搭建： CUDA Version: 12.3 】onnxruntime-gpu安装 CUDA Version: 12.3
dubochao_xinxi的博客
08-04 2031
这篇博客详细介绍了如何在 Ubuntu 16.04 环境下搭建环境，并进行 ONNX 模型的部署。
[DEBUG] pytorch 加速安装兼容cuda12.6版本(Torch CUDA is not available )
m0_38096164的博客
12-11 1516
使用国内镜像源可以极大提升 PyTorch 安装速度，特别是在网络条件不佳的情况下。通过配置 pip 镜像和使用交大 PyTorch 镜像源，能够快速完成不同版本 PyTorch 的安装。希望这篇文章能对你的 PyTorch 使用带来帮助！如有问题，欢迎在评论区讨论交流。
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)
2401_83703835的博客
04-09 1460
【代码】【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)
谷歌Colab，Cuda12下安装onnxruntime-gpu！
TonyNotes的博客
01-19 3455
这个问题折腾了好一会儿，记录一下！Colab悄悄的吧Cuda升级到了CUDA12。但是Onnxruntime并没有。目前官方版为1.16.3 仅支持Cuda11.8。如果你想在Colab上使用ONNX就会遇到.so报错，无法调用GPU了。下面记录下解决方法和过程。
【ONNX】onnxruntime-gpu无法使用gpu问题（CUDA适配）
豆芽菜
03-01 7866
No worries. Then please check your CUDA and CuDNN versions. They must be compatible to each other. Here is the link which might be helpful:CUDA - onnxruntimeFor ONNXRuntime 1.9.0 package, I think it was built by CUDA 11.4. Ideally it should support 11.x ..
已解决：EP Error onnxruntime-gpu无法找到cuda，无法调用onnxruntime_providers_cuda.dll
最新发布
weixin_41700859的博客
12-23 1296
onnxruntime无法加载onnxruntime_providers_cuda.dll
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(2)
2401_84004012的博客
04-22 1347
在 conda 环境中安装，不依赖于 本地主机 上已安装的 cuda 和 cudnn 版本，灵活方便。如果需要其他的版本， 可以根据 onnxruntime-gpu, cuda, cudnn 三者对应关系自行组合测试。想要 onnx 模型在 GPU 上加速推理，需要安装 onnxruntime-gpu。onnx 模型在 CPU 上进行推理，在conda环境中直接使用pip安装即可。下面，从创建conda环境，到实现在GPU上加速onnx模型推理进行举例。
onnxruntime_gpu-1.1.2-cp36-cp36m-linux_aarch64.whl
10-18
onnxruntime_gpu-1.1.2-cp36-cp36m-linux_aarch64.whl 适用arm 64位 linux + python3.6， 可以配合cuda10.0 cudnn7.6.3 用于机器学习等
onnxruntime_gpu-1.2.0-cp36-cp36m-manylinux2010_x86_64.whl
05-06
onnxruntime_gpu-1.2.0-cp36-cp36m-manylinux2010_x86_64.whl是onnx模型推理用的pip包，GPU版本，可取官网下载，但是速度较慢
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）
2401_83703893的博客
04-09 1010
在 conda 环境中安装，不依赖于 本地主机 上已安装的 cuda 和 cudnn 版本，灵活方便。如果需要其他的版本， 可以根据 onnxruntime-gpu, cuda, cudnn 三者对应关系自行组合测试。下面，从创建conda环境，到实现在GPU上加速onnx模型推理进行举例。
【onnx】onnxruntime-gpu无法使用问题
胡侃有料的博客
07-09 2342
onnxruntime-gpu无法使用。
CUDA12.X 使用ONNX
My1919_的博客
07-09 454
https://onnxruntime.ai/docs/install/
onnxruntime安装
qq_30061245的博客
11-04 852
在安装onnxruntime时，如果直接运行“pip install onnxruntime-gpu”安装的是最新版的onnxruntime-gpu，且对应的是的（CUDA 12.x）。这样很有可能导致CUDA版本不对应导致GPU用不了。
pip install onnxruntime-gpu Error:Could not find a version that satisfies the requirement
AlanWang4523
08-22 1016
pip install onnxruntime-gpu 安装报错 ERROR: Could not find a version that satisfies the requirement onnxruntime-gpu (from versions: none) ERROR: No matching distribution found for onnxruntime-gpu
conda安装onnxruntime-gpu cuda版本11.4.315 jetpack版本5.1.1
12-05
要在Conda环境中安装支持CUDA 11.4.315和Jetpack 5.1.1的onnxruntime-gpu版本，可以按照以下步骤进行： 1. **创建新的Conda环境（可选）**： ```bash conda create -n onnxruntime-gpu-env python=3.8 conda ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值