CUDA快速使用和xformers安装

自用CUDA使用和xformers安装

---

查看CUDA是否可用

查看GPU是否正确使用

# 检查CUDA是否可用
cuda_available = torch.cuda.is_available()
print("CUDA available:", cuda_available)
# 如果CUDA可用，则显示CUDA设备数量
if cuda_available:
    device_count = torch.cuda.device_count()
    print("Number of CUDA devices:", device_count)

---

快速使用CUDA

首先查看自己的CUDA版本

nvidia-smi

然后去https://pytorch.org/get-started/locally/#windows-pip选择对应的操作系统和环境，自动生成命令行

复制到环境中，等待安装完成即可

如果pytorch版本不是2.3.1可以去https://pytorch.org/get-started/previous-versions/查看对应的命令行

如果报错ERROR: THESE PACKAGES DO NOT MATCH THE HASHES FROM THE REQUIREMENTS FILE.表示有哈希值不匹配，查阅可以先尝试以下两种办法

# 第一种清除缓存
pip cache purge

# 第二种确认pip是最新版本
python.exe -m pip install --upgrade pip

---

安装xformers

1.如果没有triton需要先安装triton

windows环境下安装triton只能用python3.10和3.11的版本
triton下载地址汇总见这篇文章https://blog.csdn.net/FL1623863129/article/details/136753961
这里留python3.11版本的下载地址自用
https://download.csdn.net/download/FL1623863129/89394439

2.安装xformers

# 创建虚拟环境
python -m venv venv
.\venv\Scripts\activate
 
# 拉取xformers
git clone https://github.com/facebookresearch/xformers.git
cd xformers
git submodule update --init --recursive

#安装必要的包
pip install -r requirements.txt
pip install wheel

#构建
pip install -e .

---

‘tqdm_notebook’ object has no attribute ‘disp’

是缺少python包ipywidgets，安装即可

pip install ipywidgets