3.大模型高效微调PEFT

已于 2024-06-12 20:39:34 修改
阅读量536 收藏 23
点赞数 17
分类专栏： 大模型微调 文章标签： 语言模型
于 2024-06-10 06:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/YPeng_Gao/article/details/139562849
版权
本文介绍了大模型高效微调（PEFT）技术，包括Adapter Tuning、Prefix Tuning和Prompt Tuning。Adapter Tuning通过插入小型Adapter模块，保留预训练模型大部分参数，实现高效微调。Prefix Tuning则通过添加可训练的前缀参数，引导模型适应特定任务。Prompt Tuning利用可训练的Prompt参数，调整模型输入，改变模型行为。这些方法降低了计算成本，提高了模型的适应性和任务性能。
摘要由CSDN通过智能技术生成

大模型高效微调（PEFT）技术

预训练模型的背景

  • 预训练与微调：传统的微调方法通常涉及对整个预训练模型的参数进行再训练，以适应特定任务。这虽然有效，但计算成本高，且需要大量的标记数据。
  • 模型结构：像BERT或GPT这样的模型通常包含数亿甚至数十亿个参数，构成一个深层次的Transformer网络。

Before PEFT: in-context learning (prompt)

请添加图片描述

Before PEFT: Hard Prompt

Before PEFT: Hard Prompt for text2image (Made by SD XL)

Before PEFT: Hard Prompt for text2image (Made by SD XL)

Before PEFT: Hard Prompt for text2image (Made by Midjourney)

Before PEFT: Hard Prompt for text2image (Made by DALL·E 3)

Before PEFT: Prom

了解本专栏 订阅专栏 解锁全文 超级会员免费看
（initial）
关注
专栏目录
订阅专栏
5.大模型高效微调（PEFT）未来发展趋势
YPeng_Gao的博客
06-11 595
UIUC 和Meta AI 研究人员发表的UniPELT 提出将不同的PEFT 方法模块化。作者试图将已经被广泛证明有效的技术，整合为一个统一的微调框架。针对不同的下游任务，可以学习和配置不同的微调模块。UniPELT 探索PEFT 大模型的统一框架。
9.大模型高效微调工具 Hugging Face PEFT
YPeng_Gao的博客
06-13 371
旨在以一行代码便捷加载一个PEFT模型，而无需担心需要哪个确切的模型类或手动加载PeftConfig。PEFT 采用的高效做法是训练少量提示参数（Prompt Tuning）或使用低秩适应（LoRA）等重新参数化方法来减少微调时训练参数的数量。PEFT 是一个为大型预训练模型提供多种高效微调方法的Python 库。PEFT 无缝对接Transformers Trainer 训练模型。PEFT 库微调工作原理与最佳实践（以LoRA 为例）PEFT 库微调工作原理与最佳实践（以LoRA 为例）
P-tuning个人记录
qq_55736201的博客
05-18 1208
P-Tuning就是提示调优（Prompt Tuning），主要思想是固定预训练模型的参数，然后在模型的输入端添加可学习的"prompt"（提示）进行调整。这种方法的优点是计算成本低，因为只需要更新少量的参数。它不改变模型，而是通过对提示的优化，让模型输出最佳的结果。
大模型高效微调（PEFT）方法大全
xzp740813的博客
06-11 1493
按Additive、Selective、Reparametrization-based分类介绍，主要方法会介绍细节，其余方法一句话概括。
一文彻底搞懂大模型参数高效微调（PEFT）
2401_84033492的博客
08-11 2552
最近这一两周看到不少互联网公司都已经开始秋招提前批了。不同以往的是，当前职场环境已不再是那个双向奔赴时代了。求职者在变多，HC 在变少，岗位要求还更高了。最近，我们又陆续整理了很多大厂的面试题，帮助一些球友解惑答疑，分享技术面试中的那些弯弯绕绕。。更多实战和面试交流，加入我们。
调教出属于你的私有大模型——大模型高效微调PEFT介绍
代码世界的博客
09-06 1145
参数高效微调（Parameter-Efficient Fine-Tuning，PEFT）是一种高效的模型微调技术，它允许在不调整预训练模型所有参数的情况下，通过仅微调一小部分参数来适应特定的下游任务，从而显著降低了计算和存储成本。这种方法在保持与全参数微调相当性能的同时，减少了算力支出，加快了模型适应速度，并避免了灾难性遗忘。
大模型高效微调(PEFT)技术
weixin_69415739的博客
06-21 605
该研究探索了 "Prompt Tuning" 这一简单而有效的方法，通过对 GPT-3 等大型预训练模型进行软提示调整（Soft Prompt Tuning），从而学习特定任务的提示。这种方法的核心思想是，通过引入任务特定的软提示向量，来指导预训练模型在下游任务中的表现。P-Tuning v2 是在 P-Tuning 基础上优化和改进的一种方法，旨在使提示调整（Prompt Tuning）在不同规模的预训练模型上，针对各种下游任务都能达到类似全面微调（Fine-tuning）的效果。
大语言模型微调和PEFT高效微调
拟禾的个人技术博客
06-28 1841
大模型微调
[LLM]大型语言模型高效微调---PEFT
摩登都市天空---专栏
05-05 1123
Adapters。
使用PEFT库进行ChatGLM3-6B模型的LORA高效微调
积跬步，至千里。
06-26 1363
LORA(Low-Rank Adaptation)是一种高效的模型微调技术,它可以通过在预训练模型上添加额外的低秩权重矩阵来微调模型,从而仅需更新很少的参数即可获得良好的微调性能。这相比于全量微调大幅减少了训练时间和计算资源的消耗。
基于MNIST数据集的分类器设计_MNIST_Classifier.zip
10-01
基于MNIST数据集的分类器设计_MNIST_Classifier
基于springboot项目,集成常用第三方整合的一个框架,包含通用mapper实现百分之
10-01
基于springboot项目,集成常用第三方整合的一个框架,包含通用mapper实现百分之八九十的s_myspringboot
一些经典机器学习算法的Matlab实现_MachineLearing_Matlab.zip
10-01
一些经典机器学习算法的Matlab实现_MachineLearing_Matlab
蜂鸣声音简谱播放器fmjpbfq.zip
10-01
蜂鸣声音简谱播放器fmjpbfq
电商-拼团倒计时.zip
最新发布
10-01
我们的小程序源码功能多样，涵盖社交、电商等领域。高度定制化，轻松打造专属风格。用户体验佳，界面美观操作便捷。安全可靠，保障数据与运行稳定。适合创业者、企业和开发者。提供技术支持与文档说明。快来下载，开启精彩之旅！
基于Python语言的lingkong-robot中文语音对话机器人设计源码
10-01
该项目为基于Python语言的灵活可配的lingkong-robot中文语音对话机器人设计源码，集成了C, JavaScript, HTML, Python, CSS, Shell等多种编程语言。源码总文件数达127个，涵盖文本、字节码、样式表、脚本等多种格式。项目目前已停止维护，但曾以其灵活性和可配置性著称，适用于构建智能对话系统。
CCPD_-_中国古典诗歌的主题和情感多标签联合分类数据集_CCPD.zip
10-01
CCPD_-_中国古典诗歌的主题和情感多标签联合分类数据集_CCPD
计及风光不确定性的基于IGDT信息间隙决策的综合能源系统优化调度 摘要：代码构建了含光热电站、储气、储碳、碳捕集装置的综合能源系
10-01
计及风光不确定性的基于IGDT信息间隙决策的综合能源系统优化调度 摘要：代码构建了含光热电站、储气、储碳、碳捕集装置的综合能源系统优化调度模型，并考虑P2G装置与碳捕集装置联合运行，从而实现碳经济的最大化，与此同时，代码还包含光热电站模型，有需要学习光热电站的也可以考虑此代码，注释详细，模块清晰。 重要的是，本代码还考虑了综合能源风光出力的不确定性，构建了基于信息间隙决策理论的综合能源系统优化调度模型，分析了IGDT鲁棒模型以及机会模型，且不确定参数可以自行调节，从而进行灵敏度分析 代码非常精品，注释几乎一行一注释；
fatal: unable to access 'https://github.com/huggingface/peft/
04-03
3. Incorrect remote URL: Ensure that you have entered the correct remote URL for the repository. 4. Authentication issues: If you are using a private repository, ensure that you have provided the ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

（initial）

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值