CUDA快速使用和xformers安装

幼稚鬼风暴

已于 2024-06-11 15:45:25 修改

阅读量1.5k

点赞数 7

分类专栏：学习自用文章标签： python

于 2024-06-11 12:46:41 首次发布

本文链接：https://blog.csdn.net/skt1201/article/details/139595803

版权

自用CUDA使用和xformers安装

文章目录

查看CUDA是否可用
快速使用CUDA
安装xformers
- 1.如果没有triton需要先安装triton
- 2.安装xformers
'tqdm_notebook' object has no attribute 'disp'

查看CUDA是否可用

查看GPU是否正确使用

# 检查CUDA是否可用
cuda_available = torch.cuda.is_available()
print("CUDA available:", cuda_available)
# 如果CUDA可用，则显示CUDA设备数量
if cuda_available:
    device_count = torch.cuda

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

幼稚鬼风暴

关注关注

7
点赞
踩
10

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

pytorch安装

qq_45599904的博客

01-08

298

可以看到红色箭头那里有cu113说明安装的是cuda=11.3版本的。

【超详细】windows10系统下深度学习环境搭建CUDA11.3+cuDNN，以及tensorflow，Keras，pyTorch对应版本

zzjcymbq的博客

05-30

1万+

2022windows系统下深度学习GPU环境搭建CUDA11.3+cuDNN8.2.1，以及tensorflow，Keras，pyTorch对应版本介绍

参与评论您还未登录，请先登录后发表或查看评论

xFormers安装使用

热门推荐

培根芝士的专栏

03-06

5万+

xFormers是一个模块化和可编程的Transformer建模库，可以加速图像的生成。这种优化仅适用于nvidia gpus，它加快了图像生成，并降低了vram的使用量，而成本产生了非确定性的结果。下载地址：启用xformers对大图及以上有极为巨大的性能提升，极大幅度降低显存占用，并且有很大可能修复黑图。代价是部分细节可能有些许改变（有可能有巨大改变）。如果不是非常吹毛求疵，强烈推荐使用xformers生成高分辨率的图片。

怎么指定cuda版本安装xformers

m0_73573564的博客

12-01

2151

直接pip安装xformers会默认使用支持该xformers的cuda最高版本，可能和环境的cuda版本不对应。中的方法可以指定cuda版本，我的pytorch时2.3.0问题解决。

xformers避坑白手起环境方案，小白友好（Anaconda虚拟环境cuda+cudnn+torch+torchvision+xformers网速极差版安装方案）

weixin_47177911的博客

02-28

2586

提供全套实测成功安装whl资源文件。稳妥实测版本安装cuda+cudnn+torch+torchvision+xformer，有科学上网支持，但仍旧踩坑折腾了一晚上，特做此纪录，主要为解决加速器xformer的安装部署。又是为了装上一个库，重搭一个环境的晚上。本地环境为win11环境。全操作过程有图，百分之二百复现。

如何正确安装Stable Diffusion Web UI以及对应的xFormers

ZhongUncle的博客

02-14

2264

本文是我总结的步骤，验证了几次保证是对的。因为正确的安装 Stable Diffusion Web UI 以及对应的 xFormers 实在是太麻烦了，官方和网上的步骤都是残缺和分散的，加上国内网络速度不理想，所以需要一些额外步骤，之前研究出来了，结果没记，重装系统之后又安装不好了，这次成功安装之后，就写下本文记录，这样一个小时绝对能装好了（网络速度快的话不超过十分钟）。 see `python -m xformers.info` for more info

安装xFormers时遇到的问题，以及正确的安装方式

BigerBang的博客

06-14

2万+

在使用pip install xformers安装xformers时，发现总是会把我环境中的pytorch重新安装，并且会安装CUDA12版本的pytorch, 而我环境是CUDA 11.8，这就导致我原本的开发环境不可用了。后来发现xformers与pytorch版本一一对应的，在pip install xformers时，如果发现pytorch版本不一致，就会自动卸载重装pytorch, 而默认装的是CUDA12版本的。

xformers-0.0.23.post1-cp310-cp310-win-amd64.whl

04-07

xformers 已编译好的whl文件

安装xformers的正确步骤

qq_46491123的博客

12-04

4492

在虚拟环境中正确安装xformers

玩转stable-diffusion之xformers安装

Louis_12345的博客

10-07

1万+

比如我安装的torch-2.0.1+cu118，对应的是xformer0.0.19等都是错误的，导致需要重新卸载，重新安装。4、如果出现因安装xformers而卸载已经安装好的torch，可以先直接卸载torch和xformers，再运行webui-user.bat 脚本（直接运行webui-user.bat，不要带参数）重新安装torch。6、针对显存不高的电脑，xformers没什么明显的提升，所以只是自己的电脑学学玩玩，不安装xformers也无所谓。只是xformers可以帮助提升图片的生成速度。

Linux安装xFormers教程

weixin_56193843的博客

01-05

1万+

Linux安装xFormers一步步教学，包含常见问题的解决方法

comfyUI独立安装包中，安装xformers，加速图像生成

聚梦小课堂

03-09

2060

xformers的安装与否并不影响comfyui可以正常运行，图像还是可以正常生成的，只是速度会慢一些，如果你的显卡本身显存不大，还是建议更新安装下的。这里我用4090测试了下，本来以为可能没什么影响，实际发现就算是4090这种大显存的显卡，仍然能带来不小的性能提升。实际效果测试和安装方法请看详情。

xFormers和vllm安装

最新发布

03-29

为了成功安装 xFormers 和 vLLM，需先确认 Python 版本以及 CUDA 配置是否满足最低需求。通常情况下，Python 的版本应不低于 3.8，并且需要支持的 NVIDIA GPU 及其驱动程序已正确安装[^1]。 #### 安装 vLLM 可以...

Xformer_Pytorch

02-17

Xformer_Pytorch 目录介绍根据（），人们提出了许多基于x-formers的基于Transformer的模型来提高推理过程中的效率，尤其是通过减少推理时间。由于注意模块中的点积运算使Transformer模型的平方计算成为瓶颈，因此大多数x-former的主要焦点是对注意模块的修改。在此存储库中，我们遵循和的想法来实现Xformer注意模块。该模块已与兼容。 Xformer架构我们在修改Q，K和V的投影矩阵时保留了原始的注意操作。K和V的投影矩阵具有相同的权重，并通过$ \ beta $ （> 1）合并输入序列的序列长度维。 Q的投影矩阵通过$ \ alpha $ （> 1）合并输入序列的隐藏维。同样，从Q投影K而不是注意模块的输入序列。将n表示为输入序列长度，将d表示为序列长度。注意力概率的计算复杂度从O（n 2 d）降低到O（n 2 d /（$ \ a

安装xformers

12-30

这种方式适用于大多数常规场景，并能快速上手使用该库的功能[^1]。 #### 构建源码安装如果遇到特定版本需求或定制化修改，则可以从 GitHub 上克隆仓库并自行构建： ```bash git clone ...

xFormers

AI工程化、开源分享、文档翻译、代码笔记

05-14

3406

一、关于 xFormers 二、安装 xFormers 三、基准测试（可选）测试安装四、使用 xFormers 1、Transformers 关键概念 2、Repo 地图注意力机制 Feed forward mechanisms Positional embedding Residual paths Initializations 3、主要特征 4、安装故障排除

xformer\vllm与cuda版本

rstroller的博客

04-13

5832

cuda11.7安装 pip3 install xformers==0.0.23.post1 及以下版本，例如。默认不指定xformer版本可能安装最新版，对于之前版本的cuda会不兼容。

安装stable-diffusion的错误 xformers 安装解决

GranteZhou的专栏

07-19

3万+

3、注意这里的版本，如果安装的版本不对，会卸载你的原安装正常的pytorch版本，导致你的环境变得无法使用。比如我安装的torch-2.0.1+cu118，对应的是xformer0.0.19等都是错误的，导致需要重新卸载，重新安装。4、如果出现因安装xformers而卸载已经安装好的torch，可以先直接卸载torch和xformers，再运行webui-user.bat 脚本（直接运行webui-user.bat，不要带参数）重新安装torch。2、安装完SD后，启动出现xformers未安装的情况。