简单几步微调Llama 3大模型，小白轻松上手

这是面向小白用户的一个超级简单的微调大模型示例，通过这个例子将得到一个速度翻倍，并可以包含自己业务知识数据的微调后llama3模型，可用于本地部署构建私有化的AI智能体。very 的 nice

首先请准备好google账号和网络环境，这个示例基于goolge colab的免费算力完成。

https://colab.research.google.com/drive/135ced7oHytdxu3N2DNe1Z0kqjyYIkDXp?usp=sharing

使用浏览器打开上方链接

将点击copy to Drive复制笔记到自己账号下的网盘，点击之后弹出新窗口

我们就在这个弹出的新窗口操作，界面都是英文不多解释，跟着操作就好

点击第一个运行小箭头，安装基础环境，要稍等片刻的时间

运行结束后左侧会出现一个绿色小勾

环境安装好就开始微调训练，继续运行第二段代码，代码中默认的加载llama3，不需要做任何修改直接执行，点击三角符号按钮

点击运行之后开始下载模型和一些必要的文件，速度很快

片刻之后出现绿色小勾就是运行完成

然后继续向下，执行第三段代码

这一段一秒钟就OK了，继续向下运行第四段代码加载训练数据集，我们还是使用笔记中的默认数据集。先把所有默认设置跑通拿到一个微调后的模型，以后替换其他模型，使用自己的数据集都是换换参数的事情，今天就来最简单的，一路点击就OK

老规矩还是出现绿色小勾表示运行结束

这个数据集我下载到了本地，主要就是为了截个图给大家看一下，一共25W行，json结构的数据

后期使用自己的数据进行微调，按照这个格式整理好就可以，关于私有数据集的清洗和格式化这就不展开讲了。

环境，模型，数据集都加载完成了，接下来就是训练时间了

继续向下执行代码，配置一些必要的参数

出现小绿勾完成后，继续向下

下面这一段就是看一下当前可用的内存

这里正式开始训练:根据上面设置的默认参数，训练一共60步，需要稍候片刻，在这段等待的时间里你就需要开始思考一个问题，一万个人类中有几个人微调过大模型，而你即将在片刻之后成为那个万中无一的人

7分36秒，运行完成

接着向下，运行一下打印过程信息的代码

然后就可以和我们微调过的大模型对话了，笔记中默认给了一个问题，生成斐波那契数列，它的参数结构是不是跟我们的数据集结构一样的，这里你可以编辑代码用数据集指令替换掉默认指令，观察一下微调后的结果

接下来下面的代码还是一段打印斐波那契数列的代码，不同的是这是一段流式输出的示例，就是我们常见的一边生成一边输出

到这里，模型的微调就完成了，也测试了可以正常的运行

接下来将微调结果保存为lora模型，默认名称lora_model

保存之后我们加载保存的模型测试一下

在这段代码中可以反复的修改提示词然后执行，来测试不同的结果。

整个微调的过程就基本完成了，可以看出并不是那么复杂，虽然很多小白同学全程不懂在运行什么，但中间没有出错，得到了正确的结果。

今天的主题是只带过程不讲细节，之后计划做一篇详细的本地微调大模型，自定义数据集，并结合第三方框架搭建私有智能体应用

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓