智能简历平台Plus——基于LLaMA-Factory 的ChatGLM模型微调：实现智能评估与反馈系统（1）

大模型微调（fine-tuning）指的是使用预训练好的大型模型（如BERT、GPT等）来进一步训练和调整模型，以适应特定的任务或领域。以下是大模型微调的几个优点：

1. 节省计算资源： 预训练大型模型（如BERT、GPT等）通常需要大量的计算资源和时间。使用预训练模型进行微调时，可以节省这些资源，因为只需要在相对较小的数据集上进行少量的额外训练。

2. 快速实现： 微调预训练模型通常比从头开始训练一个新模型更快速。这是因为预训练模型已经学习到了大量的语言和语义知识，微调时只需对特定任务进行一些调整和优化。

3. 提升性能： 大型预训练模型具有强大的语言理解和表达能力。通过微调，模型可以适应特定任务的数据分布和特征，从而在许多自然语言处理任务（如情感分析、问答系统、命名实体识别等）中表现出色。

4. 适应性强： 预训练模型通过大规模的文本数据进行训练，具有广泛的语言和领域知识。通过微调，可以使模型适应不同的任务和领域，而不需要重新训练一个全新的模型。

---

在自然语言处理（NLP）应用中，大型语言模型的专业领域微调可以显著提升其在特定任务上的表现。本文将介绍如何通过阿里云和 LLaMA-Factory 微调大模型，构建一个针对公务员考试、教资考试、银行业务和企业管理面试等领域的智能评估与反馈系统。

主要流程

1. 数据收集与准备
2. 模型微调
3. 功能实现
4. 系统集成
5. 测试与优化

数据收集与准备

数据来源

我们针对四个专业领域从多种渠道收集了高质量的数据集：

• 考公务员: 收集历年面试题目、优秀回答及评分标准。
• 教师资格认证: 收集面试模拟题目、网络答案及评分标准。
• 银行业务: 收集资格考试案例分析题目及标准回答。
• 企业管理: 收集面试问题、管理案例及专业文献中的最佳实践。

数据处理

1. 数据清洗: 去除不相关和重复数据，确保数据的准确性。
2. 数据格式化: 统一数据格式，便于模型学习和评估。
3. 数据增强: 通过数据生成技术（如文本扩展、同义替换），增加数据多样性。

示例数据结构

每个数据项包含如下信息：

{

  "question": "你觉得公务员最重要的品质是什么？",

  "standard_answer": "公务员应具备的最重要品质是廉洁奉公，公正透明。",

  "evaluation_criteria": "回答要体现对公共服务的热情、正直、以及对公正的理解。",

  "suggestions": "请注意在回答中强调廉洁的重要性，并结合具体案例来说明。"

}

模型微调

微调目标

通过微调使 ChatGLM-6B 模型能够根据专业领域的典型问题和标准答案，对用户的回答进行评分并提供修改建议。

微调过程

部署环境:

1. 在阿里云上选择合适的云实例确保 GPU 和内存满足模型训练需求。
2. 配置 Python 环境，安装必要依赖项，如 torch、transformers 和 LLaMA-Factory。

数据准备:

1. 确保数据集的格式和质量满足微调需求，上传到阿里云服务器。
2. 在LLaMA-Factory中选择合适的数据集组合和参数，开始微调

模型微调:

​编辑

1. 训练完成后再chat上进行实时对话测试，确认模型的学习情况，再进行数据集和参数的调整，重复训练。

训练前：

​编辑

训练后：

​编辑

可以观察到输出效果好了很多。