AI浪潮席卷全球并发展至今已有近2年的时间了,大模型技术作为AI发展的底座和基石,更是作为AI从业者必须掌握的技能。但是作为非技术人员,相信大家也有一颗想要训练或微调一个大模型的心,但是苦于技术门槛太高,无从下手。今天教大家一个非常快速的方法,5分钟就可以让你快速上手去微调一个大模型。还不赶紧去试试!
什么是模型微调?
大模型微调(Fine-tuning)是指在已经预训练好的大型深度学习模型基础上,使用新的、特定任务相关的数据集对模型进行进一步训练的过程。这里我们用的微调方式选择的是Lora。
首先,我们是要基于一个开源的大模型去微调一个属于我们自己模型,所以我们要先找一个开源的大模型。而开源大模型社区,现在最火的一定是Hugging Face。但是苦于需要魔法上网,所以我们用国内的知名模型库魔搭社区。
网址:
https://www.modelscope.cn/models
比如我们接下来要演示的是近期刚发布的Meta Llama3.1-8B的一个大模型。
模型地址:
https://www.modelscope.cn/models/LLM-Research/Meta-Llama-3.1-8B-Instruct
如何快速微调一个模型呢,下载提供好的训练模型代码后,只需要准备训练数据集和修改你要训练的模型即可,是不是特别快,特别方便。
1、下载训练模型的代码
我已经整理好了,。解压后目录如下:
(解压后)
train.py:要训练的脚本。
test.py:训练后用于测试的脚本。
chat.py:基于streamlit的简单web问答交互页面。
requirements.txt:运行时需要的python库文件。
dataset:存放要训练的数据。
models:存放模型(默认为空,启动train.py进行训练时会下载模型到该目录)
2、准备数据集
需要准备要训练的数据集,json格式的,为了训练快速,我只象征性的加了3条。后续大家根据自己需求添加即可。
(准备json格式数据集)
3、修改训练脚本(train.py) & 训练
修改训练脚本中的模型,这里选用的Llama-3.1-8B,想微调其他的模型,在魔搭社区查找完修改即可。
(修改要训练的模型名称)
修改训练的设备,因为我是mac,所以写死了用mps,大家如果用gpu训练的话,改成cuda(在此之前电脑别忘了安装驱动,但先要确认NVIDIA版本是否支持CUDA),否则值设成用cpu进行训练。
总结一下,这里的可选值有三个:mps、cuda、cpu。
(修改要训练的硬件用什么)
到这里就可以执行【train.py】进行训练了,训练的过程第一次会很慢,因为需要在线下载模型和训练代码依赖的python库。后续再次进行训练就很快了,后续的训练速度取决于你训练数据集的大小和电脑硬件的配置,用GPU肯定比CPU快多了。
训练前需要安装python环境,然后执行下面命令进行训练:
python3 train.py
(模型训练)
注意:因为我准备的训练数据只有三条,很少,只用于测试,为了训练结果更精确,所以训练的总轮数(num_train_epochs这个参数)我设定为了30,大家如果后续使用时,这个参数根据需要可以调整。
4、训练后测试
训练后的模型如何加载和使用呢?这里提供了两种方式,第一种是写了一个【test.py】的python脚本去调用。第二种是通过【chat.py】去调用,里面封装了用streamlit写的web页面。
第一种方式【test.py】:
和上面一样,打开【test.py】,需要修改要加载的模型和运行的硬件(可选值有mps、cuda、cpu)不多说了。
(修改要加载的模型名称)
(修改要推理的硬件)
运行下面代码进行第一种方式运行【test.py】进行测试:
python3 test.py
为了能看出来我们微调后模型是否有有效果,所以在训练前,我截了一个训练前的效果图。
微调训练前回答效果:
(微调前回答效果)
当我问:【什么是大模型?】
给我的回答是:【大模型(Large Model)指的是在机器学习和深度学习领域中,训练和应用的模型规模非常庞大和复杂的模型。这些模型通常由大量参数组成,能处理和学习复杂的数据模式和关系】
完全基于之前大模型自身的能力进行回答,解释了什么是大模型。
微调训练后回答效果:
(微调后回答效果)
当我问:【什么是大模型?】
给我的回答是:【LLM(Large Language Model),一般指万万级参数以上的模型,但是这个标准一直在升级,目前万亿参数以上的模型也有了。一般万万级参数以上的模型万亿参数以下的模型也有,但是这个标准一直在升级升级。】
这次回答是基于我们微调后进行回答的**,因为在数据集中我们进行了定义。所以微调是成功的**。(代码中现在把输出的max_new_tokens设定为定值100,所以会输出的结果有重复的情况)
第二种方式【chat.py】:
通过【chat.py】去调用,里面封装了用streamlit写的web页面。
运行下面代码进行第二种方式运行【chat.py】进行测试:
streamlit run chat.py
运行后会打开Web的Chatbot页面,可在页面进行提问和交互。
(基于streamlit的简版Chatbot)
--------------
我是用mac进行的微调,可能和大家不一样,后续大家在微调过程中,有问题可以私信我。
那么,如何系统的去学习大模型LLM?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~
篇幅有限,部分资料如下:
👉LLM大模型学习指南+路线汇总👈
💥大模型入门要点,扫盲必看!
💥既然要系统的学习大模型,那么学习路线是必不可少的,这份路线能帮助你快速梳理知识,形成自己的体系。
👉大模型入门实战训练👈
💥光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉国内企业大模型落地应用案例👈
💥《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例,这些案例覆盖了金融、医疗、教育、交通、制造等众多领域,无论是对于大模型技术的研究者,还是对于希望了解大模型技术在实际业务中如何应用的业内人士,都具有很高的参考价值。 (文末领取)
💥《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。
👉LLM大模型学习视频👈
💥观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。 (文末领取)
👉640份大模型行业报告👈
💥包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
👉获取方式:
这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓