torch和cuda版本不匹配问题的解决方案

前沿

最近在跑多模态的推荐算法啊，在安装环境的时候发现，其算法都跑在比较老旧torch版本上，因为依赖的包很多，而这些包有时候没有很好的做到向下兼容，导致安装出来的环境无法正常运行。因为特写这个文章记录一下。本文主要是githu上MMRec的环境安装为例说明。

cuda版本的不兼容

在安装具体环境的之前，往往会先gpu驱动及cuda等。在去安装老旧的torch版本就可能会出先cuda版本不一致的情况。
如果直接pip install torch==1.10, 不一定会安装与已有cuda版本对应的torch版本，需要指定torch和cuda的对应版本，才能确保不出问题。

查看cuda版本

nvidia-msi

显示信息如下,cuda版本为11.7:

torch版本查看

nvcc --version  # 显示
python -c "import torch; print(torch.version.cuda);"   ## 直接输出cuda版本，如11.7

查看对应CUDA的对应pytorch版本安装

查看cuda和torch对应版本：
https://pytorch.org/get-started/previous-versions/

安装cuda和torch的对应版本包含conda和pip两种方式。

conda方式安装

注意pytorch，torchvision，torchaudio等也需要版本对应，不然也会出现不兼容问题。

# CUDA 11.8
conda install pytorch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 pytorch-cuda=11.8 -c pytorch -c nvidia
# CUDA 12.1
conda install pytorch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 pytorch-cuda=12.1 -c pytorch -c nvidia
# CPU Only
conda install pytorch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 cpuonly -c pytorch

pip方式安装

# ROCM 6.0 (Linux only)
pip install torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 --index-url https://download.pytorch.org/whl/rocm6.0
# CUDA 11.8
pip install torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 --index-url https://download.pytorch.org/whl/cu118
# CUDA 12.1
pip install torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 --index-url https://download.pytorch.org/whl/cu121
# CPU only
pip install torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 --index-url https://download.pytorch.org/whl/cpu

对齐torch和cuda的版本后，再去安装其他的依赖包，就不容易出现cuda版本不匹配的问题，需要注意的是，如果torch版本较低，则其他依赖包也需要安装较低版本，否则会出现不兼容的情况甚至会将之前安装好的包卸载，然后安装最新的兼容包，这点需要注意。具体兼容包的版本就需要去对应官网查看。

参考文章

https://pytorch.org/get-started/previous-versions/
https://blog.csdn.net/AI_BING_/article/details/124991818
https://blog.csdn.net/qq_35831906/article/details/134349866