【LLM大模型】ChatGLM-6B使用、微调、训练

菜鸟Python码农

于 2024-08-20 16:44:58 发布

阅读量511

点赞数 22

文章标签：人工智能 Agent chatgpt 自然语言处理 ai大模型 LLM 大模型

本文链接：https://blog.csdn.net/huang9604/article/details/141362399

版权

介绍

由清华大学知识工程 (KEG) 实验室和智谱AI公司于2023年共同训练的语言模型。
ChatGLM-6B 参考了 ChatGPT 的设计思路，在千亿基座模型 GLM-130B 中注入了代码预训练，通过有监督微调等技术实现与人类意图对齐（即让机器的回答符合人类的期望和价值观）。
不同于训练ChatGPT需要1万+ A100显卡，ChatGLM-6B可以单机运行在消费级显卡上（13G可运行，建议16-24G显卡），未来使用空间大。

https://github.com/THUDM/ChatGLM-6B模型3月14日开源后，Github Star增速惊人，连续12天位列全球大模型下载榜第一名。 在这里插入图片描述
基于GLM (General Language Model) 架构，有62亿参数，无量化下占用显存13G，INT量化下支持单张消费级显卡（如2080Ti）上进行推理INT8量化是一种将深度学习模型中的权重和激活值从16位浮点数(FP16)减少到8位整数 INT8的技术，从而降低内存占用和计算复杂度，减少计算资源，提升推理速度

在这里插入图片描述

ChatGLM已具备人类偏好的问答对话能力，但在一些指令上，回答存在不理解指令，或缺乏领域概念理解，生成有害内容等问题。
ChatGLM已具备人类偏好的问答对话能力，但在一些指令上，回答存在不理解指令，或缺乏领域概念理解，生成有害内容等问题。

GLM-130B

在这里插入图片描述
2022年8月，智谱AI基于GLM框架，推出1300亿参数的中英双语稠密模型GLM-130B，综合能力与GPT3相当

内存节省75%， 可在单台3090 (*4)或单台2080(*8)进行无损推理

高速推理，比Pytorch提升7-8倍速度

跨平台，支持不同计算平台的适配和应用

https://github.com/THUDM/GLM-130B

功能

在这里插入图片描述

在这里插入图片描述
更多参考：https://github.com/THUDM/ChatGLM-6B

目标

GLM

GLM: 通用语言模型预训练 https://aclanthology.org/2022.acl-long.26.pdf

GLM的出发点是将3种主流的预训练模型进行统一：

GPT，注意力是单向的，无法利用到下文信息。
BERT，注意力是双向的，在NLU上表现很好，但不适合生成任务。
T5，编码器中注意力是双向的，解码器中注意力是单向的。可同时用于NLU和生成任务，但需要更多参数量

https://github.com/THUDM/GLM 在这里插入图片描述

使用

建议使用Colab，并启用GPU A100，demo1.py 源码：https://github.com/dlimeng/awesome-ai-generated/blob/main/ChatGLM%E4%BD%BF%E7%94%A8/demo1.ipynb

# Step1, 安装依赖包
!pip install transformers
!pip install sentencepiece
!pip install cpm_kernels
!pip install gradio
!pip install mdtex2html

# Step2，使用预训练模型
from transformers import AutoTokenizer, AutoModel
tokenizer =AutoTokenizer.from_pretrained("THUDM/chatglm-6b",trust_remote_code=True)
model = AutoModel.from_pretrained("THUDM/chatglm-6b",trust_remote_code=True).half().cuda()

# Step3，创建对话chat
response, history = model.chat(tokenizer,"你好", history=[])
print(response)
response, history = model.chat(tokenizer,"晚上睡不着应该怎么办",history=history)
print(response)

在这里插入图片描述

定制

源码：https://github.com/dlimeng/awesome-ai-generated/blob/main/ChatGLM%E4%BD%BF%E7%94%A8/ptuning1.ipynb

参考：https://github.com/THUDM/ChatGLM-6B/blob/main/ptuning/README.md

P-Tuning

在这里插入图片描述

用自己的数据集对ChatGLM模型进行微调
P-Tuning V2已将需要微调的参数减少到原来的0.1%- 3%，大大加快了训练速度，同时最低GPU显存要求为7G（建议16-24G）
TIPS：AdvertiseGen数据集，训练3000steps，大约需要训练2小时，需要保证你的GPU有足够多的计算单元

使用P-Tuning v2进行训练

!bash train.sh

在这里插入图片描述

Thinking：将 train.sh 中的 THUDM/chatglm-6b 改为本地的模型路径 (参考train2.sh)
Thinking：如何使用训练好的ChatGLM模型进行推理使用evaluate.sh，这里需要修改model_name_or_path 和 ptuning_checkpoint
TIPS：在 P-tuning v2 训练时模型只保存PrefixEncoder参数，所以在推理时需要同时加载原 ChatGLM-6B 模型以及 PrefixEncoder 的权重

在这里插入图片描述

轻量库

Peft库：https://github.com/huggingface/peft很方便地实现将普通的HF模型变成用于支持轻量级fine-tune的模型，目前支持4种策略：

1）LoRA:大模型的低秩适配器

2）Prefix Tuning: Optimizing Continuous Prompts for Generation

3）P-Tuning: GPT Understands, Too 4）Prompt Tuning: The Power of Scale forParameter-Efficient Prompt Tuning

在这里插入图片描述

“道生一,一生二,二生三,三生万物。”融会贯通,才能突破局限,开创未来。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望