Qwen2报错——RuntimeError: “triu_tril_cuda_template“ not implemented for ‘BFloat16‘
最近在使用 Qwen2-7B-Instruct 的时候报错 RuntimeError: “triu_tril_cuda_template” not implemented for ‘BFloat16’,尝试解决了几个星期终于解决了问题,以下是整体解决思路与方案。
原创
2024-08-13 14:42:36 ·
349 阅读 ·
0 评论