我在跑ChatGLM3时报的错,sm80和sm90是GPU架构的一种,比如30显卡就可以,但是我的显卡是2080ti,是sm86架构的。试着修改 pre_seq_length=128后运行成功了,但不知道具体为什么
RuntimeError: Expected is_sm80 || is_sm90 to be true, but got false.
最新推荐文章于 2024-07-11 16:17:17 发布
作者在使用ChatGLM3时遇到错误,由于其GPU为2080ti(sm86架构),不支持sm80和sm90。通过将pre_seq_length改为128成功运行,但未解释具体原因。
摘要由CSDN通过智能技术生成