初学者如何对大模型进行微调？

粗略地说，大模型训练有四个主要阶段：预训练、有监督微调、奖励建模、强化学习。

预训练消耗的时间占据了整个训练pipeline的99%，其他三个阶段是微调阶段，更多地遵循少量 GPU 和数小时或数天的路线。预训练对于算力和数据的要求非常高，对于普通开发者来说基本上不用考虑了。

对于开发者来说，如果你有几块GPU显卡，那么就可以尝试微调了。不过在微调之前，我们要弄明白为什么要微调，大模型为什么不能直接用？

一、为什么要微调？

大语言模型的预训练的目标很简单：文字接龙，通过前面的词语预测下一个字也就是预测token序列的下一个token。

预训练基于大规模无监督数据集训练，得到的大语言模型可以保存很多知识，但是可能无法充分利用这些知识来回答问题。

我的理解是预训练就是一个班上学习很好的学霸，不过只会死记硬背，脑袋里记忆了很多知识，但是不会灵活应用这些知识。一般预训练的数据格式如下所示：

如果将“中国的首都是”输入大模型，大模型做文字接龙，可以很轻松的补全“北京”作为回答。但是如果问题的形式是“中国的首都是哪个城市？”这种疑问句形式的时候，虽然只进行了预训练的大模型大概率也能回答这个简单问题，比如采用Few-shot prompt等方法。

但这种形式的问题如果内容更复杂一些，大模型可能无法很好的作答（尽管预训练语料中可能包含了问题的答案）。这时我们就需要指令微调来挖掘大语言模型的潜力。让大模型不仅仅满足于文字接龙，而是要真正具备逻辑推理、文案总结等能力。

一般来说我们可以在modelscope中搜索最新的大模型，以Llama系列为例子。其中

• Meta-Llama-3-8B不包含Instruct关键词，说明它只有预训练，未经过指令微调。
• Meta-Llama-3-8B-Instruct包含Instruct关键词，经过预训练、指令微调。

二、初学者如何微调？

对于初学者来说，我们不需要指令微调来挖掘大语言模型的潜力，虽然这个时候的指令微调相比预训练资源消耗小很多，但是对于初学者来说还是很困难的，在微调过程中会碰到灾难性遗忘、复读机等问题。

我建议初学者做微调是在指令微调模型的基础加入特定领域的数据，比如法律文档、医疗诊断等领域，模型需要调整其参数以更好地理解和执行这些特定任务的要求，微调允许大语言模型在特定任务的数据集上进一步学习，从而提高其在该领域的准确性和表现。

比如我在Qwen1.5-7B-Chat的基础上（Qwen1.5-7B-Chat是一个预训练、指令微调后的大模型），准备训练数据集45366条，测试数据集5032条，再微调大模型来实现商品评论情感分析，准确率高达91.70****%，具体实现方法如下：

微调大模型来实现商品评论情感分析

学习微调最好的办法就是自己亲身实践一遍。在去年的时候微调大模型还是一件比较困难的事情。微调工具链不太成熟，碰到了问题只能一个接一个去提issue，费时费力效果还一般。

不过随着大厂在大模型领域真金白银的投入，适合大模型微调的工具链组件快速发展，从初学者入门的角度出发。我推荐使用LLaMA-Factory统一微调框架，它能够支持数百种大模型的微调，并且集成了大量训练加速算法，比很多大模型repo主页训练方法还要快。下面我们来看一看如何使用它。

1.依赖下载

如果依赖有问题，可以。

2.大模型下载

这里以Baichuan2-13B-Chat为例。

默认模型会下载到~/.cache/modelscope/hub中，如果需要修改下载目录，可以手动指定环境变量：MODELSCOPE_CACHE，modelscope会将模型和数据集下载到该环境变量指定的目录中

比如更改默认位置：

export MODELSCOPE_CACHE=/home/test/models

3.数据集构建

（1）使用开源数据集

llama_factory中的 data文件夹提供了大量整理好的开源数据集

（2）构建自己的数据集 比如我我按照alpaca 格式准备数据集，包括 instruction, input, output,history 4条内容，其中instruction、 input 为输入，output 为输出标注，数据文件存储格式一般为json。

例子如下：

（3）引入自己的数据集

构建自己的数据集后，需更新 data/dataset_info.json 文件，并将数据集放置data文件夹。

比如我构建了一个数据集test.json，需更新data/dataset_info.json 文件，并将test.json放置于data文件夹。

4.微调

建议初学者采用web可视化页面微调，启动命令如下：

CUDA_VISIBLE_DEVICES=0 llamafactory-cli webui

其中：CUDA_VISIBLE_DEVICES 指定使用哪块显卡

启动后，微调就更简单了。llamafactory集成了多种微调算法，比如

• Lora
• QLora
• LoRA+
• Mixture-of-Depths
• GaLore

等等微调算法，在这里我不想深究它们的具体原理。我建议初学者首先使用Lora微调的方式，只需配置3个参数即可开始微调。

5.推理

由于采用的是Lora微调，我们需要将原有大模型的权重与自己训练出来的权重合并。

llamafactory也内置了推理模块，只需调1个参数，即可推理，如下图所示：

下面这张图，是我基于llamafactory做的商品评论情感预测，其中1代表好评，0代表差评。可以看到大模型输出1，代表它认为这条评论是好评。

三、最后

现在大模型微调的门槛越来越低，市场上有大量开源微调框架。只要你会部署、有机器就能出个结果，赶紧动手玩起来吧！

​

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。