flash_attn_2_cuda undefined symbol ?

关键报错截取:

ImportError: /root/miniconda3/lib/python3.10/site-packages/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol: _ZN3c104cuda9SetDeviceEi

        可以尝试卸载并重新安装相关的依赖。在这种情况下,你可能需要卸载并重新安装 PyTorch 和 flash_attn,因为错误信息指出的符号 _ZN3c104cuda9SetDeviceEi 是 PyTorch 的一部分,而且这个符号在 flash_attn 的共享库 flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so 中被引用。

用以下的命令来卸载 PyTorch 和 flash_attn:

pip uninstall torch

pip uninstall flash_attn

然后,重新安装这两个包:

pip install torch

pip install flash_attn

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
根据引用和引用的内容, ModuleNotFoundError: No module named 'torch' 报错通常是由于缺少torch模块导致的。解决这个问题的方法是使用conda安装torch模块并确保它在所需的环境中可用。可以在base环境中使用conda安装torch模块,然后切回到你之前的子环境,在运行本地的.py文件时就可以正常运行了。如果你遇到了类似的问题 "ModuleNotFoundError: No module named 'torch.ao'",这可能是由于版本不匹配导致的问题,你可以尝试解决版本问题。 至于你提到的 "ModuleNotFoundError: No module named 'flash_attn'" 报错,这可能是因为你没有安装或导入flash_attn模块,你需要确保已经正确安装该模块并使用正确的导入语句。如果你已经安装了该模块,可能是因为路径配置不正确或者模块名称错误。你可以检查一下路径配置和模块的正确性,并确保使用正确的导入语句。123 #### 引用[.reference_title] - *1* *3* [anaconda报错ModuleNotFoundError: No module named ‘torch](https://blog.csdn.net/mandiheyanyu/article/details/128286151)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] - *2* [ModuleNotFoundError: No module named ‘torch.ao‘报错解决方案](https://blog.csdn.net/qq_51631764/article/details/127954614)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CCSBRIDGE

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值