显卡RTX 3090运行pytorch报错CUDA error: no kernel image is available for execution on the device

最新推荐文章于 2024-06-07 10:43:26 发布
最新推荐文章于 2024-06-07 10:43:26 发布
阅读量2.2k 收藏 8
点赞数 4
分类专栏： 常用工具 文章标签： pytorch r语言 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013602059/article/details/121183918
版权

RuntimeError: CUDA error: no kernel image is available for execution on the device

安装适用于GeForce RTX 3090显卡的pytorch

卸载当前版本的pytorch, 重新按照以下安装

pip uninstall torch
pip install torch==1.7.0+cu110 torchvision==0.8.1+cu110 torchaudio===0.7.0 -f https://download.pytorch.org/whl/torch_stable.html
BUAA～冬之恋
关注
  • 4
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
failed call to cuInit: CUDA_ERROR_NO_DEVICE解决方法
01-06
在anaconda虚拟环境下运行程序时，报错failed call to cuInit: CUDA_ERROR_NO_DEVICE. 单独测试import tensorflow，可以成功调用GPU。 用ncvv -V，或nvidia-smi，都可以正常看到CUDA安装版本，及GPU使用情况。 问题...
大模型训练时，使用bitsandbytes报错的解决方法
热门推荐
anycall201的博客
04-03 2万+
使用bitsandbytes加载模型出现"The installed version of bitsandbytes was compiled without GPU support."警告的解决办法
RuntimeError: CUDA error: no kernel image is available for execution on the device解决
最新发布
weixin_45983731的博客
06-07 158
【代码】RuntimeError: CUDA error: no kernel image is available for execution on the device解决。
关于windows上运行bitsandbytes老是报错的（说cuda版本有问题）解决方案
dalaomanzou的博客
09-21 6021
最后在网上找到高人的回复，原来一开始就想错方向了，根本就是这个bitsandbytes的版本不对，整死个人。甚至自己在那里加些莫名其妙的环境变量（后来才知道那玩儿是linux上才用的环境变量），醉了。甚至以为是环境变量有问题，没有对应的环境变量，导致程序找不到对应的cuda环境。所以多方尝试，卸载了又装，多个cuda版本都卸载和安装了多次，以排查问题。本来我就奇怪，我都进的是虚拟环境了，怎么还是cuda环境有问题。我以为是自己电脑上装了多个版本的cuda，导致冲突。报错问题基本上都是什么。
解决llama factory运行报错：The installed version of bitsandbytes was compiled without GPU support亲测可用
炼丹炉里有煤灰
05-14 742
尝试了网上各种方法都没有，后来发现是torch装错了版本，由于llama factory采用并行计算 bitsandbytes 无法使用gpu引起的问题。如果返回ture就是支持，你可以继续往下看，如果返回false就是不支持。首先确定安装好了cuda，控制台敲 nvcc -V 如果有返回结果就说明成功安装了。然后查看torch是否支持gpu，依次在命令行中敲入，或直接编写py脚本执行均可。在安装时提示入口错误。经过排查发现是安装途径有问题。搞llama factory时环境出了问题，运行时会提示。
报错The installed version of bitsandbytes was compiled without GPU support. 8-bit optimizers, 8-bit mu
qq_55736201的博客
05-11 537
【代码】报错The installed version of bitsandbytes was compiled without GPU support. 8-bit optimizers, 8-bit mu。
【环境配置】RTX 3090+cuda11.2+python39+pytorch1.8.0（csdn）————程序.pdf
12-04
在本文中，我们将详细讨论如何配置一个用于深度学习的高性能计算环境，具体涉及RTX 3090显卡、CUDA 11.2、Python 3.9.9以及PyTorch 1.8.0。这个环境配置对于运行大规模的机器学习和深度学习模型至关重要。 首先，...
Win11系统/RTX30系列显卡——安装gpu版pytorch完整教程
05-15
Win11系统/RTX30系列显卡——安装gpu版pytorch完整教程 本教程旨在指导用户在 Win11 系统和 RTX30 系列显卡上安装 GPU 版本的 PyTorch。PyTorch 是一个流行的机器学习框架，广泛应用于自然语言处理、计算机视觉、...
Arcgis Pro v2.8.3 RTX3090训练安装包
07-27
《ArcGIS Pro v2.8.3与RTX3090显卡的高效训练与安装详解》 ArcGIS Pro是一款强大的地理信息系统（GIS）软件，由Esri公司开发，专为专业人士提供2D和3D地理分析及制图功能。在最新版本v2.8.3中，它继续提升了用户...
CUDA Device Query NVIDIA-GeForce-RTX-3060.txt
10-21
Device 0: "NVIDIA GeForce RTX 3060" CUDA Driver Version / Runtime Version 12.1 / 10.0 CUDA Capability Major/Minor version number: 8.6 Total amount of global memory: 12042 MBytes (12626624512 bytes)...
大模型微调踩坑记录 - 基于Alpaca-LLaMa+Lora
anycall201的博客
04-11 1万+
大模型微调训练时，遇到icetk、bitsandbytes报错的解决方案
sh run安装cuda失败，Finished with code: 256
Talk Is Cheap
06-20 1万+
要先禁用nouveau 保证lsmod |grep nouveau不显示信息
[踩坑记] CUDA环境下bitsandbytes安装报错/异常解决
chenyang2203的博客
05-06 2万+
部署大模型LLaMA的过程中安装量化工具包bitsandbytes问题解决
/opt/micromamba/envs/py310/lib/python3.10/site-packages/bitsandbytes/cextension.py:34: UserWarning:
kewei chen
07-02 1274
/opt/micromamba/envs/py310/lib/python3.10/site-packages/bitsandbytes/cextension.py:34: UserWarning: The installed version of bitsandbytes was compiled without GPU support. 8-bit optimizers, 8-bit multiplication, and GPU quantization are unavailable. warn("
大模型训练时关于bitsandbytes安装的问题
weixin_45582028的博客
12-27 1565
打开源码，找到文件“/home/user (自己位置)/anaconda3/envs/环境名字/lib/python3.11/site-packages/bitsandbytes/cuda_setup/main.py”找到文件“/home/user (自己位置)/anaconda3/envs/环境名字/lib/python3.11/site-packages/bitsandbytes/cuda_setup/main.py”没有指定版本，则尝试方案二。
【大模型部署实践-2】本地模型参数调用踩坑记录
qq_40302568的博客
12-16 5672
从modelscope手动下载了bin参数放在本地文件夹，需要加载并运行。
关于bitsandbytes安装报错
cy853043693的博客
08-23 3638
关于微调大语言模型绕不开安装bitsandbytes，有很多小伙伴会报以上的error参考GitHub上bitsandbytes的issue发现很多人给了一些错误的方向，实际问题就是CUDA环境不干净，参考CSDN回答cuDNNCUDA我尝试了一种新的思路，或许不用删除CUDA程序（因为隐患很大）在重新配置环境之后保存导致我退出了虚拟环境，偶然进入了系统环境，然后离奇的发现安装完bitsandbytes之后可以直接进行python -m bitsandbytes显示安装成功。
报错:RuntimeError: CUDA error: no kernel image is available for execution on the device
zh515858237的专栏
12-28 4736
例如，假设你的cuda版本是12.2，那么你可以将就着用下面的cuda12.1的torch版本。一般报这样的错，主要原因是torch版本和cuda版本不匹配导致的。，找到适合自己cuda的torch版本。
error in dcnv3_im2col_cuda: no kernel image is available for execution on the device
09-29
根据提供的引用内容，报错 "no kernel image is available for execution on the device" 可能是由于您的PyTorch版本不兼容您的显卡设备造成的。 根据引用中的报错信息，您的显卡是 GeForce RTX 3080，但当前安装的PyTorch版本只支持 CUDA capabilities sm_37 sm_50 sm_60 sm_70，而不支持 sm_86。为了使用 GeForce RTX 3080 GPU，您需要根据官方指导(https://pytorch.org/get-started/locally/)进行安装和配置。 引用中提供的信息显示，当前安装的PyTorch版本为1.8.0，cuda版本为11.1，而 torchvision版本为0.9.0。这些版本可能不兼容您的显卡。 您可以尝试按照引用中提供的指导，在PyTorch官网上使用pip命令进行安装。具体命令是 pip3 install torch==1.8.1 cu111 torchvision==0.9.1 cu111 torchaudio==0.8.1 -f https://download.pytorch.org/whl/torch_stable.html。 请注意，确保使用与您的显卡设备兼容的PyTorch版本，并正确安装相应的CUDA和torchvision版本。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值