手把手教大家在本地运行ChatGLM3-6B大模型(一)
最低要求: 为了能够流畅运行 Int4 版本的 ChatGLM3-6B,我们在这里给出了最低的配置要求: 内存:>= 8GB 显存: >= 5GB(1060 6GB,2060 6GB)为了能够流畅运行 FP16 版本的,ChatGLM3-6B,我们在这里给出了最低的配置要求: 内存:>= 16GB 显存: >= 13GB(4080 16GB)预训练方法:ChatGLM3 采用大规模的中文语料库进行预训练,通过无监督学习和有监督学习相结合的方式,提高模型的语义理解和生成能力。现在你可以运行模型了。
原创
2024-03-23 09:04:03 ·
1878 阅读 ·
1 评论