ChatGLM3-6B本地部署LORA微调模型合并以及使用

1、本地部署

        github下载地址

        Hugging Face 下载模型

        下载完成后配置虚拟环境以及安装各种包

2、Lora微调

        数据集构建

import pandas as pd
import json
df = pd.read_excel(r'···')#自己的文件地址
conversation_json_list = []

# 遍历DataFrame中的每一行，将每一条对话转换为JSON格式，并添加到列表中
# row['···']更换为自己要训练的列
for index, row in df.iterrows():
    conversation_json_1 = {'conversations': [
        {'role': 'user', 'content': row['···']},
        {'role': 'assistant', 'content': row['···']}
    ]}

    conversation_json_list.append(conversation_json_1)

# 将列表中的JSON格式数据保存到文件中
with open('train.json', 'w', encoding='utf-8'