AI浪潮席卷全球并发展至今已有近2年的时间了,大模型技术作为AI发展的底座和基石,更是作为AI从业者必须掌握的技能。但是作为非技术人员,相信大家也有一颗想要训练或微调一个大模型的心,但是苦于技术门槛太高,无从下手。今天教大家一个非常快速的方法,5分钟就可以让你快速上手去微调一个大模型。还不赶紧去试试!
什么是模型微调?
大模型微调(Fine-tuning)是指在已经预训练好的大型深度学习模型基础上,使用新的、特定任务相关的数据集对模型进行进一步训练的过程。这里我们用的微调方式选择的是Lora。
首先,我们是要基于一个开源的大模型去微调一个属于我们自己模型,所以我们要先找一个开源的大模型。而开源大模型社区,现在最火的一定是Hugging Face。但是苦于需要魔法上网,所以我们用国内的知名模型库魔搭社区。
网址:
https://www.modelscope.cn/models
比如我们接下来要演示的是近期刚发布的Meta Llama3.1-8B的一个大模型。
模型地址:
https://www.modelscope.cn/models/LLM-Research/Meta-Llama-3.1-8B-Instruct
如何快速微调一个模型呢,下载提供好的训练模型代码后,只需要准备训练数据集和修改你要训练的模型即可,是不是特别快,特别方便。
1、下载训练模型的代码
我已经整理好了,在公众号回复【Ft-models】即可获取。解压后目录如下:
(解压后)
train.py:要训练的脚本。
test.py:训练后用于测试的脚本。
chat.py:基于streamlit的简单web问答交互页面。
requirements.txt:运行时需要的python库文件。
dataset:存放要训练的数据。
models:存放模型(默认为空,启动train.py进行训练时会下载模型到该目录)
2、准备数据集
需要准备要训练的数据集,json格式的,为了训练快速,我只象征性的加了3条。后续大家根据自己需求添加即可。
(准备json格式数据集)
3、修改训练脚本(train.py) & 训练
修改训练脚本中的模型,这里选用的Llama-3.1-8B,想微调其他的模型,在魔搭社区查找完修改即可。
(修改要训练的模型名称)
修改训练的设备,因为我是mac,所以写死了用mps,大家如果用gpu训练的话,改成cuda(在此之前电脑别忘了安装驱动,但先要确认NVIDIA版本是否支持CUDA),否则值设成用cpu进行训练。
总结一下,这里的可选值有三个:mps、cuda、cpu。
(修改要训练的硬件用什么)
到这里就可以执行【train.py】进行训练了,训练的过程第一次会很慢,因为需要在线下载模型和训练代码依赖的python库。后续再次进行训练就很快了,后续的训练速度取决于你训练数据集的大小和电脑硬件的配置,用GPU肯定比CPU快多了。
训练前需要安装python环境,然后执行下面命令进行训练:
python3 train.py
(模型训练)
注意:因为我准备的训练数据只有三条,很少,只用于测试,为了训练结果更精确,所以训练的总轮数(num_train_epochs这个参数)我设定为了30,大家如果后续使用时,这个参数根据需要可以调整。
4、训练后测试
训练后的模型如何加载和使用呢?这里提供了两种方式,第一种是写了一个【test.py】的python脚本去调用。第二种是通过【chat.py】去调用,里面封装了用streamlit写的web页面。
第一种方式【test.py】:
和上面一样,打开【test.py】,需要修改要加载的模型和运行的硬件(可选值有mps、cuda、cpu)不多说了。
(修改要加载的模型名称)
(修改要推理的硬件)
运行下面代码进行第一种方式运行【test.py】进行测试:
python3 test.py
为了能看出来我们微调后模型是否有有效果,所以在训练前,我截了一个训练前的效果图。
微调训练前回答效果:
(微调前回答效果)
当我问:【什么是大模型?】
给我的回答是:【大模型(Large Model)指的是在机器学习和深度学习领域中,训练和应用的模型规模非常庞大和复杂的模型。这些模型通常由大量参数组成,能处理和学习复杂的数据模式和关系】
完全基于之前大模型自身的能力进行回答,解释了什么是大模型。
微调训练后回答效果:
(微调后回答效果)
当我问:【什么是大模型?】
给我的回答是:【LLM(Large Language Model),一般指万万级参数以上的模型,但是这个标准一直在升级,目前万亿参数以上的模型也有了。一般万万级参数以上的模型万亿参数以下的模型也有,但是这个标准一直在升级升级。】
这次回答是基于我们微调后进行回答的**,因为在数据集中我们进行了定义。所以微调是成功的**。(代码中现在把输出的max_new_tokens设定为定值100,所以会输出的结果有重复的情况)
第二种方式【chat.py】:
通过【chat.py】去调用,里面封装了用streamlit写的web页面。
运行下面代码进行第二种方式运行【chat.py】进行测试:
streamlit run chat.py
运行后会打开Web的Chatbot页面,可在页面进行提问和交互。
(基于streamlit的简版Chatbot)
--------------
我是用mac进行的微调,可能和大家不一样,后续大家在微调过程中,有问题可以私信我。
读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用
对于0基础小白入门:
如果你是零基础小白,想快速入门大模型是可以考虑的。
一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费
】🆓
👉AI大模型学习路线汇总👈
大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费
】🆓