超级会员免费看
本文介绍了ChatGLM-6B模型的基础信息，它是一个62亿参数的对话机器人模型，支持多种应用场景。文章详细阐述了如何在Linux环境下部署模型，包括网页版和命令行Demo的运行，以及在显存有限的情况下如何通过量化技术降低需求。此外，还讲解了如何使用P-Tuning进行模型微调，并提供了微调的依赖安装和数据集准备步骤。
对视觉类论文详解（免费）感兴趣的同学，可以关注微信公众号 李卓璐随手记，将会不定期发布，注意查收哦~
1、ChatGLM-6B内容简单介绍
该模型基于 General Language Model (GLM) 架构，具有 62 亿参数。
注：结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。
ChatGLM-6B可以实现的能力这是一个对话机器人，所以基本的问答，系统都支持。
官方提供的使用实例：
自我认知
提纲写作
文案写作
邮件助手
信息抽取
角色扮演
评论比较
旅游向导
运行界面
2、ChatGLM-6B模型实战
GLM模型GitHub代码地址
部署步骤如下：（注意使用的是Linux系统，本人数次尝试用Windows以失败告终）
# 新建chatglm环境
conda create 
订阅专栏 解锁全文
664
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
