xFormers 无法加载 CUDA

最新推荐文章于 2025-03-15 17:52:48 发布

wangning6252820

最新推荐文章于 2025-03-15 17:52:48 发布

阅读量8.8k

点赞数 14

文章标签： python ai

本文链接：https://blog.csdn.net/wangning6252820/article/details/134056100

版权

博客主要讲述了xformers报错问题，报错原因是xformers版本和torch不匹配。给出的解决办法是访问指定链接，找到对应版本并下载包，使用conda进行安装，最后通过命令python -m xformers.info进行验证。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

报错：

WARNING[XFORMERS]: xFormers can't load C++/CUDA extensions. xFormers was built for:

PyTorch 2.1.0+cu121 with CUDA 1201 (you have 1.12.1+cu113)

Python 3.10.13 (you have 3.10.13)

Please reinstall xformers (see GitHub - facebookresearch/xformers: Hackable and optimized Transformers building blocks, supporting a composable construction.)

Memory-efficient attention, SwiGLU, sparse and more won't be available.

Set XFORMERS_MORE_DETAILS=1 for more details

xFormers 0.0.22.post4

原因：xformers版本和torch不匹配。

解决：

访问https://anaconda.org/xformers/xformers/files，找个对应的版本

下载对应的包

wget https://anaconda.org/xformers/xformers/0.0.16/download/linux-64/xformers-0.0.16-py310_cu11.3_pyt1.12.1.tar.bz2

安装：conda install xformers-0.0.16-py310_cu11.3_pyt1.12.1.tar.bz2
验证：python -m xformers.info

关注博主即可阅读全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

wangning6252820

关注关注

14
点赞
踩
23

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

【深度学习】xformers与pytorch的版本对应关系

q742971636的博客

05-27

1万+

【代码】【深度学习】xformers与pytorch的版本对应关系。

【超详细】windows10系统下深度学习环境搭建CUDA11.3+cuDNN，以及tensorflow，Keras，pyTorch对应版本

zzjcymbq的博客

05-30

1万+

2022windows系统下深度学习GPU环境搭建CUDA11.3+cuDNN8.2.1，以及tensorflow，Keras，pyTorch对应版本介绍

2 条评论您还未登录，请先登录后发表或查看评论

qwen2.5-vl多机多卡分布式部署

最新发布

weixin_42479327的博客

03-15

2022

记录一下工作中进行多机多卡部署qwen2.5-vl多模态大模型踩过的坑第一个天坑就是官方提供的镜像qwenllm/qwenvl:2.5-cu121有问题，在titan显卡会抛出cuda error:no kernel image is availabe for execution on the device. 这是cuda内核与GPU不兼容的问题，可是手动制作的其他cuda12镜像就能跑。

如何正确安装Stable Diffusion Web UI以及对应的xFormers

ZhongUncle的博客

02-14

1904

本文是我总结的步骤，验证了几次保证是对的。因为正确的安装 Stable Diffusion Web UI 以及对应的 xFormers 实在是太麻烦了，官方和网上的步骤都是残缺和分散的，加上国内网络速度不理想，所以需要一些额外步骤，之前研究出来了，结果没记，重装系统之后又安装不好了，这次成功安装之后，就写下本文记录，这样一个小时绝对能装好了（网络速度快的话不超过十分钟）。 see `python -m xformers.info` for more info

BUG:C++/CUDA extensions. xFormers was built for: PyTorch 2.1.2+cu121 with CUDA 1201 (you have 2.1.0+

集电极

05-27

2278

使用vllm启动大模型出现的错误。原因：xformers版本和torch、cuda不匹配。我机器的cuda版本只支持到11.8，而 pip install xformers 默认安装的版本需要cuda12.1。

xformer\vllm与cuda版本

rstroller的博客

04-13

5677

cuda11.7安装 pip3 install xformers==0.0.23.post1 及以下版本，例如。默认不指定xformer版本可能安装最新版，对于之前版本的cuda会不兼容。

编译Pytorch Custom C++ and CUDA Extension出错问题

qq_31473097的博客

09-01

1167

做项目时用到了ICP算法，需要用到CUDA加速，但是编译Pytorch C++拓展时出错了。

怎么指定cuda版本安装xformers

m0_73573564的博客

12-01

1994

直接pip安装xformers会默认使用支持该xformers的cuda最高版本，可能和环境的cuda版本不对应。中的方法可以指定cuda版本，我的pytorch时2.3.0问题解决。

xformers避坑白手起环境方案，小白友好（Anaconda虚拟环境cuda+cudnn+torch+torchvision+xformers网速极差版安装方案）

weixin_47177911的博客

02-28

2352

提供全套实测成功安装whl资源文件。稳妥实测版本安装cuda+cudnn+torch+torchvision+xformer，有科学上网支持，但仍旧踩坑折腾了一晚上，特做此纪录，主要为解决加速器xformer的安装部署。又是为了装上一个库，重搭一个环境的晚上。本地环境为win11环境。全操作过程有图，百分之二百复现。

ubuntu xFormers库安装

zhoubei654的博客

03-01

1092

ubuntu xFormers库安装及报错解决

【实操演练】平民玩家借力AI生成美少女图片

lys1335的博客

04-07

3415

AI美女图片满天飞，什么？！Midjourney收费？！ Stable Diffusion要16G内存配置？！劝退啊！平民借力AI魔法上网开启AI生美女之路吧！

Xformer_Pytorch

02-17

Xformer_Pytorch 目录介绍根据（），人们提出了许多基于x-formers的基于Transformer的模型来提高推理过程中的效率，尤其是通过减少推理时间。由于注意模块中的点积运算使Transformer模型的平方计算成为瓶颈，因此大多数x-former的主要焦点是对注意模块的修改。在此存储库中，我们遵循和的想法来实现Xformer注意模块。该模块已与兼容。 Xformer架构我们在修改Q，K和V的投影矩阵时保留了原始的注意操作。K和V的投影矩阵具有相同的权重，并通过$ \ beta $ （> 1）合并输入序列的序列长度维。 Q的投影矩阵通过$ \ alpha $ （> 1）合并输入序列的隐藏维。同样，从Q投影K而不是注意模块的输入序列。将n表示为输入序列长度，将d表示为序列长度。注意力概率的计算复杂度从O（n 2 d）降低到O（n 2 d /（$ \ a

安装xformers

12-30

有时可能会碰到 CUDA 版本不匹配等问题，如无法加载动态链接库 `'libcudart.so.11.0'` 的情况。此时建议先确认本地环境中是否存在相应路径下的 `.so` 文件；若缺失可通过如下命令定位具体位置以便后续处理： ```...

pip install xformers

01-12

另外，在某些情况下可能遇到 CUDA 加载失败的问题；此时应确认本地开发环境中 GPU 驱动及相关依赖项均已正确设置完毕[^3]。最后，验证安装是否成功的有效方式之一是运行如下指令查询当前系统的 xFormers 支持状况...

安装xFormers时遇到的问题，以及正确的安装方式

热门推荐

BigerBang的博客

06-14

2万+

在使用pip install xformers安装xformers时，发现总是会把我环境中的pytorch重新安装，并且会安装CUDA12版本的pytorch, 而我环境是CUDA 11.8，这就导致我原本的开发环境不可用了。后来发现xformers与pytorch版本一一对应的，在pip install xformers时，如果发现pytorch版本不一致，就会自动卸载重装pytorch, 而默认装的是CUDA12版本的。

基于Pytorch运行中出现RuntimeError: Not compiled with CUDA support此类错误解决方案

rothschild666的博客

10-07

1万+

基于Pytorch运行中出现RuntimeError: Not compiled with CUDA support此类错误解决方案及基于Pytorch中安装torch_geometric可以命令模式安装方法

xformers 下载报错PackagesNotFoundError ，pip解决

weixin_55379527的博客

07-25

1441

在conda环境里使用pip安装

xFormers

AI工程化、开源分享、文档翻译、代码笔记

05-14

3330

一、关于 xFormers 二、安装 xFormers 三、基准测试（可选）测试安装四、使用 xFormers 1、Transformers 关键概念 2、Repo 地图注意力机制 Feed forward mechanisms Positional embedding Residual paths Initializations 3、主要特征 4、安装故障排除

Xformers介绍

weixin_41596697的博客

09-24

1万+

Xformers作为facebook中的一个开源库，能够更加有效的实现transformer中的计算工作，能够对整体模型进行进一步的加速。注意，当处理高分辨率的图像时，xformers对于显存的降低效果更加明显。(想说爱你不容易）上一讲我们成功的利用deepspeed框架，将sd模型以fp16的精度训练了起来，显存的消耗也降低到18G左右。另外需要注意，使用了xformers对训练过程进行优化后，模型推理时也必须要用存在xformers的环境进行推理，不然容易出现精度溢出导致的“黑图”问题。