把 bitsandbytes 更新到最新版本。
用 nvidia-smi 查看 CUDA 版本,我的是12.2。
在 ~/.bashrc
中添加了以下几行:
export PATH="/usr/local/cuda-12.2/bin:$PATH"
export BNB_CUDA_VERSION=122
export LD_LIBRARY_PATH="/usr/local/cuda-12.2/lib64:$LD_LIBRARY_PATH"
然后 source ~/.bashrc
。
使用 python -m bitsandbytes
显示 SUCCESS!
参考链接: