BUG:C++/CUDA extensions. xFormers was built for: PyTorch 2.1.2+cu121 with CUDA 1201 (you have 2.1.0+

已于 2024-05-28 09:04:53 修改
阅读量2.2k 收藏 17
点赞数 5
分类专栏： BUG 文章标签： bug pytorch 人工智能
于 2024-05-27 15:18:49 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38463737/article/details/139239116
版权

BUG:C++/CUDA extensions. xFormers was built for: PyTorch 2.1.2+cu121 with CUDA 1201 (you have 2.1.0+cpu)

环境

linux
python 3.10
torch 2.1.2+cu118
vllm 0.3.3+cu118
xformers 0.0.23.post1

详情

使用vllm启动大模型出现的错误。

原因：xformers版本和torch、cuda不匹配。我机器的cuda版本只支持到11.8，而 pip install xformers 默认安装的版本需要cuda12.1。

解决方法

安装 xformers 支持torch2.1.2，python3.10，cuda 11.8的版本

【1】访问

最低0.47元/天 解锁文章
Set XFORMERS_MORE_DETAILS=1 xformer安装
jacke121的专栏
01-05 1139
Set XFORMERS_MORE_DETAILS=1 for more details
python系列&deep_study系列：# ImportError: /usr/local/lib/python3.10/dist-packages/vllm/_C.cpython-310-x86
weixin_54626591的博客
08-12 683
ImportError: /usr/local/lib/python3.10/dist-packages/vllm/_C.cpython-310-x86_64-linux-gnu.so: undefined symbol: _ZN2at4_ops15to_dtype_layout4callERKNS_6TensorEN3c108optionalINS5_10ScalarTypeEEENS6_INS5_6LayoutEEENS6_INS5_6DeviceEEENS6_IbEEbbNS6_INS5_12Mem
torch_scatter-2.1.2+pt21cu121-cp310-cp310-linux_x86_64.whl.zip
02-19
需要配和指定版本torch-2.1.0+cu121使用，请在安装该模块前提前安装官方命令安装torch-2.1.0+cu121对应cuda12.1和cudnn，注意电脑需要有nvidia显卡才行，支持GTX920以后显卡，比如RTX20 RTX30 RTX40系列显卡
如何正确安装Stable Diffusion Web UI以及对应的xFormers
ZhongUncle的博客
02-14 1891
本文是我总结的步骤，验证了几次保证是对的。因为正确的安装 Stable Diffusion Web UI 以及对应的 xFormers 实在是太麻烦了，官方和网上的步骤都是残缺和分散的，加上国内网络速度不理想，所以需要一些额外步骤，之前研究出来了，结果没记，重装系统之后又安装不好了，这次成功安装之后，就写下本文记录，这样一个小时绝对能装好了（网络速度快的话不超过十分钟）。 see `python -m xformers.info` for more info
本地部署DeepSeek
weixin_45742970的博客
03-03 714
【代码】本地部署DeepSeek。
xformers避坑白手起环境方案，小白友好（Anaconda虚拟环境cuda+cudnn+torch+torchvision+xformers网速极差版安装方案）
weixin_47177911的博客
02-28 2338
提供全套实测成功安装whl资源文件。稳妥实测版本安装cuda+cudnn+torch+torchvision+xformer，有科学上网支持，但仍旧踩坑折腾了一晚上，特做此纪录，主要为解决加速器xformer的安装部署。又是为了装上一个库，重搭一个环境的晚上。本地环境为win11环境。全操作过程有图，百分之二百复现。
国内源安装torch2.1.2+cu121、torch2.3.1+cu121
u013250861的博客
12-23 4153
【代码】离线安装torch2.1.2+cu121。
xFormers 版本的选择
syson的专栏
10-30 2720
xFormers跟Python / CUDA / PyTorch的版本对齐
xformers版本与其依赖pytorch版本的对应关系
BigerBang的博客
07-09 1万+
pip安装的xformers版本与其依赖pytorch版本的对应关系。
xformer\vllm与cuda版本
rstroller的博客
04-13 5672
cuda11.7安装 pip3 install xformers==0.0.23.post1 及以下版本，例如。默认不指定xformer版本可能安装最新版，对于之前版本的cuda会不兼容。
pytorch与xformers版本关系对应
m0_46311043的博客
01-12 1万+
其他的可以从github里xformers发布的版本中写的pytorch版本推断。xformers 0.0.22对应pytorch 2.0.1。pytorch与xformers版本关系对应。0.0.23对应2.1.1。
torch_scatter-2.1.2+pt21cu121-cp38-cp38-win_amd64.whl.zip
02-19
需要配和指定版本torch-2.1.0+cu121使用，请在安装该模块前提前安装官方命令安装torch-2.1.0+cu121对应cuda12.1和cudnn，注意电脑需要有nvidia显卡才行，支持GTX920以后显卡，比如RTX20 RTX30 RTX40系列显卡
怎么指定cuda版本安装xformers
m0_73573564的博客
12-01 1988
直接pip安装xformers会默认使用支持该xformers的cuda最高版本，可能和环境的cuda版本不对应。中的方法可以指定cuda版本，我的pytorch时2.3.0问题解决。
torch_scatter-2.1.2+pt21cu121-cp38-cp38-linux_x86_64.whl.zip
02-19
需要配和指定版本torch-2.1.0+cu121使用，请在安装该模块前提前安装官方命令安装torch-2.1.0+cu121对应cuda12.1和cudnn，注意电脑需要有nvidia显卡才行，支持GTX920以后显卡，比如RTX20 RTX30 RTX40系列显卡
装特定的torch和cuda，cu118
强化学习曾小健
07-15 2374
【代码】装特定的torch和cuda，cu118。
【WSL2笔记2】 搭建深度学习开发环境踩坑笔记 Ubuntu+CUDA+cuDNN+PyTorch+Tensorflow+ONNX
老富的博客
04-06 3792
错误的结果就是配置的所有虚拟环境都以base的python版本运行，无法配置每个虚拟环境使用不同python版本，失去了虚拟环境意义。至此，适用PyTorch、Tensorflow、cuDNN框架的深度学习开发环境搭建完成。WSL 上的 CUDA 用户指南。安装protobuf 3.2版本。Anaconda官网版本档案。下载Anaconda安装包。创建Python虚拟环境。设置Anaconda路径。需要注册账号登录下载。通过SSH传送WSL。
安装xFormers时遇到的问题，以及正确的安装方式
热门推荐
BigerBang的博客
06-14 2万+
在使用pip install xformers安装xformers时，发现总是会把我环境中的pytorch重新安装，并且会安装CUDA12版本的pytorch, 而我环境是CUDA 11.8，这就导致我原本的开发环境不可用了。后来发现xformers与pytorch版本一一对应的，在pip install xformers时，如果发现pytorch版本不一致，就会自动卸载重装pytorch, 而默认装的是CUDA12版本的。
xFormers 无法加载 CUDA
10-26 8869
xformers版本和torch不匹配。
ComfyUI 安装pytorch与xformers版本冲突问题
茶馆
11-16 3129
ComfyUI 大多用GPU来运行，（为啥，因为快啊）， 需要这二个包支持。
isaacgym 卡在Using /home/zdj/.cache/torch_extensions/py38_cu117 as PyTorch extensions root...
最新发布
03-14
### 解决方案 在安装 Isaac Gym 的过程中，如果遇到卡在 PyTorch 扩展路径的问题（`Using /home/zdj/.cache/torch_extensions/py38_cu117 as PyTorch extensions root`），可能是由于缓存中的锁文件未被正确释放所致。以下是具体的解决方案： #### 删除锁定文件 当编译器尝试访问 `.cache/torch_extensions` 文件夹时，可能会因为存在锁文件而导致进程停滞。可以通过手动删除这些锁文件来解决问题。 定位到 `.cache/torch_extensions` 目录下对应的 `lock` 文件并将其移除： ```bash rm -f ~/.cache/torch_extensions/*/lock ``` 此命令会清除所有可能存在的锁文件[^1]。 #### 清理构建目录 除了清理锁文件外，还可以进一步清空整个扩展缓存目录以确保没有残留的临时文件影响后续操作： ```bash rm -rf ~/.cache/torch_extensions/* mkdir -p ~/.cache/torch_extensions/ ``` 上述步骤能够重新初始化 PyTorch 扩展根目录结构，从而避免潜在冲突。 #### 验证环境变量设置 有时，错误也可能源于不完整的环境配置。确认当前环境中是否包含了必要的工具链支持，比如 CUDA 和 FFmpeg 等依赖项。对于后者来说，需检查其二进制可执行程序是否已被加入全局搜索路径之中。按照先前描述的方法编辑 `/etc/profile` 并追加相应声明即可完成此项工作[^2]: ```bash export PATH=$PATH:/usr/local/ffmpeg/bin source /etc/profile ``` #### 排查磁盘与文件系统异常 假如以上措施均未能奏效，则有必要审视底层存储状况是否存在隐患。例如 XFS 类型分区发生写回失误便可能导致类似的冻结现象[^3]。此时建议借助专门诊断工具如 `xfs_repair` 来修复受损的数据卷: ```bash umount /dev/mapper/klas_okaygis--20136-root xfs_repair -L /dev/mapper/klas_okaygis--20136-root mount /dev/mapper/klas_okaygis--20136-root / reboot ``` 注意：实际设备名称应依据具体情况调整。 --- ### 总结 综上所述，针对 isaacgym 安装期间停留在指定阶段的情况，推荐依次采取以下行动： 1. 移除相关联的锁机制； 2. 整理目标区域内的遗留数据； 3. 核实外部库关联的各项参数设定准确性； 4. 若依旧存在问题则深入考察硬件层面因素干扰可能性。 通过遵循这一流程，大多数情形都能够得到有效缓解甚至彻底消除。 ```python import os from pathlib import Path def clean_torch_cache(): cache_dir = Path.home() / ".cache" / "torch_extensions" lock_files = list(cache_dir.rglob('lock')) for file in lock_files: try: file.unlink() print(f"Deleted {file}") except Exception as e: print(f"Failed to delete {file}: {e}") clean_torch_cache() ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值