解决：pip install flash-attn安装失败案例【cuda】【torch】【flash-attn】

问题描述

在一个容器中部署项目环境中，遇到的flash-attn库总是安装失败，报错信息大致是：FileNotFoundError: [Errno 2] No such file or directory: ':/usr/local/cuda/bin/nvcc，以及后来可能会提示’torch’未安装，却不知道对应cuda版本的torch安装方式。

---

这有一份问题讨论帖，它虽不能解决我的问题，但可能会对你的问题有所帮助， 传送门

解决

我的做法

• 重新创建新的虚拟环境，

• 找到/usr/local下的含有nvcc文件的cuda目录，将它写入bashrc文件末尾

  vim ~/.bashrc
  

  具体写入内容

  export PATH=/usr/local/cuda/bin:$PATH  
  export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
  

  通过打开一个新终端并运行以下命令来验证设置是否生效

  nvcc --version
  

  输出参考

  nvcc: N