AI浪潮席卷全球并发展至今已有近2年的时间了，大模型技术作为AI发展的底座和基石，更是作为AI从业者必须掌握的技能。但是作为非技术人员，相信大家也有一颗想要训练或微调一个大模型的心，但是苦于技术门槛太高，无从下手。今天教大家一个非常快速的方法，5分钟就可以让你快速上手去微调一个大模型。还不赶紧去试试！
什么是模型微调？
大模型微调(Fine-tuning)是指在已经预训练好的大型深度学习模型基础上，使用新的、特定任务相关的数据集对模型进行进一步训练的过程。这里我们用的微调方式选择的是Lora。
首先，我们是要基于一个开源的大模型去微调一个属于我们自己模型，所以我们要先找一个开源的大模型。而开源大模型社区，现在最火的一定是Hugging Face。但是苦于需要魔法上网，所以我们用国内的知名模型库魔搭社区。
网址：
https://www.modelscope.cn/models
比如我们接下来要演示的是近期刚发布的Meta Llama3.1-8B的一个大模型。
模型地址：
https://www.modelscope.cn/models/LLM-Research/Meta-Llama-3.1-8B-Instruct
如何快速微调一个模型呢，下载提供好的训练模型代码后，只需要准备训练数据集和修改你要训练的模型即可，是不是特别快，特别方便。
1、下载训练模型的代码
我已经整理好了，在公众号回复【Ft-models】即可获取。解压后目录如下：
（解压后）
train.py：要训练的脚本。
test.py：训练后用于测试的脚本。
chat.py：基于streamlit的简单web问答交互页面。
requirements.txt：运行时需要的python库文件。
dataset：存放要训练的数据。
models：存放模型（默认为空，启动train.py进行训练时会下载模型到该目录）
2、准备数据集
需要准备要训练的数据集，json格式的，为了训练快速，我只象征性的加了3条。后续大家根据自己需求添加即可。
（准备json格式数据集）
3、修改训练脚本（train.py） & 训练
修改训练脚本中的模型，这里选用的Llama-3.1-8B，想微调其他的模型，在魔搭社区查找完修改即可。
（修改要训练的模型名称）
修改训练的设备，因为我是mac，所以写死了用mps，大家如果用gpu训练的话，改成cuda（在此之前电脑别忘了安装驱动，但先要确认NVIDIA版本是否支持CUDA），否则值设成用cpu进行训练。
总结一下，这里的可选值有三个：mps、cuda、cpu。
（修改要训练的硬件用什么）
到这里就可以执行【train.py】进行训练了，训练的过程第一次会很慢，因为需要在线下载模型和训练代码依赖的python库。后续再次进行训练就很快了，后续的训练速度取决于你训练数据集的大小和电脑硬件的配置，用GPU肯定比CPU快多了。
训练前需要安装python环境，然后执行下面命令进行训练：
python3 train.py
（模型训练）
注意：因为我准备的训练数据只有三条，很少，只用于测试，为了训练结果更精确，所以训练的总轮数（num_train_epochs这个参数）我设定为了30，大家如果后续使用时，这个参数根据需要可以调整。
4、训练后测试
训练后的模型如何加载和使用呢？这里提供了两种方式，第一种是写了一个【test.py】的python脚本去调用。第二种是通过【chat.py】去调用，里面封装了用streamlit写的web页面。
第一种方式【test.py】:
和上面一样，打开【test.py】，需要修改要加载的模型和运行的硬件（可选值有mps、cuda、cpu）不多说了。
（修改要加载的模型名称）
（修改要推理的硬件）
运行下面代码进行第一种方式运行【test.py】进行测试：
python3 test.py
为了能看出来我们微调后模型是否有有效果，所以在训练前，我截了一个训练前的效果图。
微调训练前回答效果：
（微调前回答效果）
当我问：【什么是大模型？】
给我的回答是：【大模型（Large Model）指的是在机器学习和深度学习领域中，训练和应用的模型规模非常庞大和复杂的模型。这些模型通常由大量参数组成，能处理和学习复杂的数据模式和关系】
完全基于之前大模型自身的能力进行回答，解释了什么是大模型。
微调训练后回答效果：
（微调后回答效果）
当我问：【什么是大模型？】
给我的回答是：【LLM（Large Language Model），一般指万万级参数以上的模型，但是这个标准一直在升级，目前万亿参数以上的模型也有了。一般万万级参数以上的模型万亿参数以下的模型也有，但是这个标准一直在升级升级。】
这次回答是基于我们微调后进行回答的**，因为在数据集中我们进行了定义。所以微调是成功的**。（代码中现在把输出的max_new_tokens设定为定值100，所以会输出的结果有重复的情况）
第二种方式【chat.py】:
通过【chat.py】去调用，里面封装了用streamlit写的web页面。
运行下面代码进行第二种方式运行【chat.py】进行测试：
streamlit run chat.py
运行后会打开Web的Chatbot页面，可在页面进行提问和交互。
（基于streamlit的简版Chatbot）
--------------
我是用mac进行的微调，可能和大家不一样，后续大家在微调过程中，有问题可以私信我。
如何学习AI大模型？
作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
一、全套AGI大模型学习路线
AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！
二、640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
四、AI大模型商业化落地方案
作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。
扫一扫
7万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
