xFormers 无法加载 CUDA

最新推荐文章于 2025-04-30 09:55:29 发布
最新推荐文章于 2025-04-30 09:55:29 发布
阅读量9k 收藏 24
点赞数 14
文章标签： python ai
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangning6252820/article/details/134056100
版权
博客主要讲述了xformers报错问题，报错原因是xformers版本和torch不匹配。给出的解决办法是访问指定链接，找到对应版本并下载包，使用conda进行安装，最后通过命令python -m xformers.info进行验证。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

报错：

WARNING[XFORMERS]: xFormers can't load C++/CUDA extensions. xFormers was built for:

    PyTorch 2.1.0+cu121 with CUDA 1201 (you have 1.12.1+cu113)

    Python  3.10.13 (you have 3.10.13)

  Please reinstall xformers (see GitHub - facebookresearch/xformers: Hackable and optimized Transformers building blocks, supporting a composable construction.)

  Memory-efficient attention, SwiGLU, sparse and more won't be available.

  Set XFORMERS_MORE_DETAILS=1 for more details

xFormers 0.0.22.post4

原因：xformers版本和torch不匹配。

解决：

  1. 访问https://anaconda.org/xformers/xformers/files， 找个对应的版本

  1. 下载对应的包

wget https://anaconda.org/xformers/xformers/0.0.16/download/linux-64/xformers-0.0.16-py310_cu11.3_pyt1.12.1.tar.bz2

  1. 安装：conda install xformers-0.0.16-py310_cu11.3_pyt1.12.1.tar.bz2
  2. 验证：python -m xformers.info

【深度学习】xformers与pytorch的版本对应关系
q742971636的博客
05-27 1万+
【代码】【深度学习】xformers与pytorch的版本对应关系。
编译Pytorch Custom C++ and CUDA Extension出错问题
qq_31473097的博客
09-01 1178
做项目时用到了ICP算法，需要用到CUDA加速，但是编译Pytorch C++拓展时出错了。
Python AI 之Stable-Diffusion-WebUI
zhouzhiwengang的专栏
03-11 3509
通过Gradio库，实现Stable Diffusion web 管理接口。
xformers避坑白手起环境方案，小白友好（Anaconda虚拟环境cuda+cudnn+torch+torchvision+xformers网速极差版安装方案）
weixin_47177911的博客
02-28 2577
提供全套实测成功安装whl资源文件。稳妥实测版本安装cuda+cudnn+torch+torchvision+xformer，有科学上网支持，但仍旧踩坑折腾了一晚上，特做此纪录，主要为解决加速器xformer的安装部署。又是为了装上一个库，重搭一个环境的晚上。本地环境为win11环境。全操作过程有图，百分之二百复现。
如何正确安装Stable Diffusion Web UI以及对应的xFormers
ZhongUncle的博客
02-14 2252
本文是我总结的步骤，验证了几次保证是对的。因为正确的安装 Stable Diffusion Web UI 以及对应的 xFormers 实在是太麻烦了，官方和网上的步骤都是残缺和分散的，加上国内网络速度不理想，所以需要一些额外步骤，之前研究出来了，结果没记，重装系统之后又安装不好了，这次成功安装之后，就写下本文记录，这样一个小时绝对能装好了（网络速度快的话不超过十分钟）。 see `python -m xformers.info` for more info
xformer\vllm与cuda版本
rstroller的博客
04-13 5825
cuda11.7安装 pip3 install xformers==0.0.23.post1 及以下版本，例如。默认不指定xformer版本可能安装最新版，对于之前版本的cuda会不兼容。
xFormers wasn‘t build with CUDA support，GPU compute capability，xformers源码构建符合本地GPU算力版本
最新发布
weixin_45162906的博客
04-30 757
xFormers wasn't build with CUDA support，GPU capability， device capability，xformer基于显卡算力构建
BUG:C++/CUDA extensions. xFormers was built for: PyTorch 2.1.2+cu121 with CUDA 1201 (you have 2.1.0+
集电极
05-27 2355
使用vllm启动大模型出现的错误。原因：xformers版本和torch、cuda不匹配。我机器的cuda版本只支持到11.8，而 pip install xformers 默认安装的版本需要cuda12.1。
怎么指定cuda版本安装xformers
m0_73573564的博客
12-01 2144
直接pip安装xformers会默认使用支持该xformers的cuda最高版本，可能和环境的cuda版本不对应。中的方法可以指定cuda版本，我的pytorch时2.3.0问题解决。
ubuntu xFormers库安装
zhoubei654的博客
03-01 1113
ubuntu xFormers库安装及报错解决
Xformer_Pytorch
02-17
Xformer_Pytorch 目录 介绍 根据（ ），人们提出了许多基于x-formers的基于Transformer的模型来提高推理过程中的效率，尤其是通过减少推理时间。 由于注意模块中的点积运算使Transformer模型的平方计算成为瓶颈，因此大多数x-former的主要焦点是对注意模块的修改。 在此存储库中，我们遵循和的想法来实现Xformer注意模块。 该模块已与兼容。 Xformer架构 我们在修改Q，K和V的投影矩阵时保留了原始的注意操作。K和V的投影矩阵具有相同的权重，并通过$ \ beta $ （> 1）合并输入序列的序列长度维。 Q的投影矩阵通过$ \ alpha $ （> 1）合并输入序列的隐藏维。 同样，从Q投影K而不是注意模块的输入序列。 将n表示为输入序列长度，将d表示为序列长度。 注意力概率的计算复杂度从O（n 2 d）降低到O（n 2 d /（$ \ a
安装xFormers时遇到的问题，以及正确的安装方式
热门推荐
BigerBang的博客
06-14 2万+
在使用pip install xformers安装xformers时，发现总是会把我环境中的pytorch重新安装，并且会安装CUDA12版本的pytorch, 而我环境是CUDA 11.8，这就导致我原本的开发环境不可用了。后来发现xformers与pytorch版本一一对应的，在pip install xformers时，如果发现pytorch版本不一致，就会自动卸载重装pytorch, 而默认装的是CUDA12版本的。
基于Pytorch运行中出现RuntimeError: Not compiled with CUDA support此类错误解决方案
rothschild666的博客
10-07 1万+
基于Pytorch运行中出现RuntimeError: Not compiled with CUDA support此类错误解决方案及基于Pytorch中安装torch_geometric可以命令模式安装方法
xformers 下载 报错PackagesNotFoundError ，pip解决
weixin_55379527的博客
07-25 1452
在conda环境里使用pip安装
xFormers
AI工程化、开源分享、文档翻译、代码笔记
05-14 3403
一、关于 xFormers 二、安装 xFormers 三、基准测试 （可选）测试安装 四、使用 xFormers 1、Transformers 关键概念 2、Repo 地图 注意力机制 Feed forward mechanisms Positional embedding Residual paths Initializations 3、主要特征 4、安装故障排除
Xformers介绍
weixin_41596697的博客
09-24 1万+
Xformers作为facebook中的一个开源库，能够更加有效的实现transformer中的计算工作，能够对整体模型进行进一步的加速。注意，当处理高分辨率的图像时，xformers对于显存的降低效果更加明显。(想说爱你不容易）上一讲我们成功的利用deepspeed框架，将sd模型以fp16的精度训练了起来，显存的消耗也降低到18G左右。另外需要注意，使用了xformers对训练过程进行优化后，模型推理时也必须要用存在xformers的环境进行推理，不然容易出现精度溢出导致的“黑图”问题。
三星提出XFormer | 超越MobileViT、DeiT、MobileNet等模型
qq_29462849的博客
07-20 1933
点击上方“计算机视觉工坊”，选择“星标”干货第一时间送达作者丨ChaucerG来源丨集智书童ViT 的最新进展在视觉识别任务中取得了出色的表现。卷积神经网络 (CNN) 利用空间归纳偏差来学习视觉表示，但这些网络是空间局部的。ViTs 可以通过其self-attention机制学习全局表示，但它们通常是heavy-weight的，不适合移动设备。在本文中提出了Cross...
论文阅读|XFormer
weixin_45782047的博客
07-30 2380
论文阅读|XFormer
mac xformers安装
12-28
### 如何在Mac操作系统上安装xformers库 对于希望在Mac操作系统上安装`xformers`库的用户来说，确保所有依赖项都已正确配置至关重要[^1]。具体操作如下： 确认Python环境适配于即将进行的操作是一个重要的前提条件。由于Mac系统通常预装有Python环境，在开始之前应当验证当前系统的Python版本。这可以通过运行命令 `python3 -V` 或者 `python3 --version` 来实现[^2]。 一旦确定了合适的Python版本之后，创建一个新的虚拟环境来隔离项目依赖关系是一种良好的实践方法。通过执行以下命令可以轻松做到这一点： ```bash python3 -m venv my_venv source my_venv/bin/activate ``` 激活虚拟环境后，下一步就是安装必要的软件包。考虑到`xformers`可能具有的特定需求，建议按照官方文档中的指导来进行安装。特别是当涉及到CUDA或其他硬件加速特性时，如MPS支持（适用于Mac），则需特别注意兼容性和额外设置的要求[^4]。 针对Mac平台上的`xformers`安装，推荐的方式是利用pip工具直接从PyPI仓库获取最新发布的稳定版： ```bash pip install xformers ``` 然而，如果遇到任何问题或需要更精确控制安装过程，则可以从源码编译并安装该库。此过程中可能会涉及更多复杂的步骤，比如克隆GitHub仓库、调整构建选项等。不过，对于大多数普通用途而言，上述简单的方法应该已经足够满足需求。 为了进一步优化性能表现，还可以考虑安装其他辅助组件，例如用于收集环境信息的小工具，这些可以帮助排查潜在的问题： ```bash python -m torch.utils.collect_env python -m xformers.info ``` 最后但同样重要的是，务必测试新安装的库能否正常工作。编写一段简单的脚本来加载和使用`xformers`功能模块，以此检验整个流程是否顺利完成。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值