运行GLM3-6b，最简单的model.generate示例都报错？官方给的最简单的demo代码也报错，真拉跨！！咋回事啊！！！

我是真菜

已于 2024-07-12 00:32:35 修改

阅读量246

点赞数 5

文章标签： python 语言模型 transformer

于 2024-07-11 23:55:30 首次发布

本文链接：https://blog.csdn.net/qq_45564275/article/details/140364886

版权

在这里插入图片描述
官方给的代码也是这个错我真是醉了啊


```python
from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm3-6b", trust_remote_code=True)
model = AutoModel.from_pretrained("THUDM/chatglm3-6b", trust_remote_code=True).half().cuda()
model = model.eval()
response, history = model.chat(tokenizer, "你好", history=[])
print(response)
response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)
print(response)