【flash-attention】Building wheel for flash-attn (pyproject.toml) did not run successfully

最新推荐文章于 2025-03-04 17:00:15 发布

余俊晖

最新推荐文章于 2025-03-04 17:00:15 发布

阅读量3.7k

点赞数 11

分类专栏：报错解决文章标签： flash-attention

本文链接：https://blog.csdn.net/yjh_SE007/article/details/135484227

版权

报错解决专栏收录该内容

16 篇文章

订阅专栏

报错

Building wheel for flash-attn (pyproject.toml) did not run successfully

解决

方法1

git clone git@github.com:Dao-AILab/flash-attention.git
cd /flash-attention
python setup.py install

注意这里会从出现错误提示flash-attention/csrc/cutlass找不到，git下载cutlass失败
所以cd flash-attention/csrc/ 然后 git@github.com:NVIDIA/cutlass.git

重新运行python setup.py install 就可以编译成功了

方法2(推荐)

找到自己对应的配置版本，例如:
cuda：12.2
torch：2.2
python：3.10

pip install https://github.com/Dao-AILab/flash-attention/releases/download/v2.4.2/flash_attn-2.4.2+cu122torch2.2cxx11abiFALSE-cp310-cp310-linux_x86_64.whl