5.大模型高效微调（PEFT）未来发展趋势

最新推荐文章于 2024-08-31 00:36:13 发布
最新推荐文章于 2024-08-31 00:36:13 发布
阅读量597 收藏 8
点赞数 18
分类专栏： 大模型微调 文章标签： 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/YPeng_Gao/article/details/139563203
版权
本文介绍了PEFT技术的最新发展，包括UniPELT提出的统一微调框架，整合Adapters、Soft Prompts和Reparametrization-based技术。此外，详述了(IA)3增量训练方法，它在小样本学习中表现出色，减少可训练参数，同时保持高性能。未来趋势将聚焦于更高效微调、适应性、跨模态学习、模型压缩和低资源任务的支持。
摘要由CSDN通过智能技术生成

PEFT 主流技术分类

请添加图片描述

UniPELT 探索PEFT 大模型的统一框架（2022）

UIUC 和Meta AI 研究人员发表的UniPELT 提出将不同的PEFT 方法模块化。
通过门控机制学习激活最适合当前数据或任务的方法，尤其是最常见的3大类PEFT 技术：

  • Adapters
  • Soft Prompts
  • Reparametrization-based

作者试图将已经被广泛证明有效的技术，整合为一个统一的微调框架。针对不同的下游任务，可以学习和配置不同的微调模块。

请添加图片描述

UniPELT 探索PEFT 大模型的统一框架

关于组合3类主流PEFT技术的探讨：

  • Adapter：
    • 接入位置（如：FFN）
    • 接入方式（串行or 并行）<
了解本专栏 订阅专栏 解锁全文 超级会员免费看
（initial）
关注
专栏目录
订阅专栏
大模型-微调技术：PEFT库
u013250861的博客
06-09 823
随着ChatGPT等LLM大模型的发展，目前业界已经发现只有当模型的参数量达到10B规模以上时-才能出现一些在小模型上无法得到的涌现能力-比如in_context learing和chain of thougt。深度学习似乎朝着模型越来越大的方向深入。而对于这些通用的LLM大模型如何进行任务微调呢，会遇到很多的问题。1）对于动则百亿级别的参数,如何更高效,低资源的微调大模型呢；2）当样本量很小的时候，如何微调大模型能得到较好的效果呢。
大模型参数高效微调（PEFT）技术解析及微调加速实践
2301_76161259的博客
06-06 1065
本文详细介绍了几种高效微调方法的原理解析和实验效果对比，并基于Unsloth做了一些微调加速的实践尝试。实验效果显示结合优秀的低参微调方法和微调加速，完全可以做到极为高效的微调大模型，可以在极低的资源占用上得到媲美全参微调的效果。作者介绍：刘辉，58同城TEG-AILab大语言模型算法工程师，主要负责灵犀大语言模型的SFT微调工作。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。
python库peft安装包
05-05
可以采用pip安装的peft安装包，包括makefile文件，此库非常有用，依赖库有torch及python，一些版本号可以自己修改，具体可查看里面的文件。该安装包用于大模型微调使用，是必不可少的依赖。
PEFT - 安装及简单使用
AI + 工程
07-05 2328
一、关于 PEFT 二、安装 1、使用 PyPI 安装 2、使用源码安装 三、快速开始 1、训练 2、保存模型 3、推理 4、后续步骤
Py之peft：peft(一款最先进的参数高效微调方法库)的简介、安装、使用方法之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
07-20 7164
​ Py之peft：peft(一款最先进的参数高效微调方法库)的简介、安装、使用方法之详细攻略 目录 peft的简介 peft的安装 peft的使用方法 peft的简介 参数有效微调(PEFT)方法使预训练语言模型(PLMs)能够有效地适应各种下游应用，而无需微调模型的所有参数。对大规模plm进行微调的成本往往高得令人望而却步。在这方面，PEFT方法只微调了少量(额外的)模型参数，从而大大降低了计算和存储成本。最近最先进的PEFT
大语言模型微调框架学习记录：LoRA、全参数、PEFT、RLHF
jennieg的博客
04-01 2505
讲一些基本概念内容，和之前的猜测不太一样大概可以将它理解为类似机器学习中pipeline的东西。是一个开源工具库，专注于构建和研究基于语言模型的应用。它提供了一套工具和接口，用于方便地在大型语言模型，如GPT-3或其他类似模型上，构建、测试和部署基于语言的应用程序。LangChain 旨在使研究人员和开发人员能够更容易地探索和利用大型语言模型的能力，尤其是在自然语言理解和生成方面。
大语言模型原理与应用实践：基于监督学习进行微调 Supervised Learning & Fine-Tuning
AI天才研究院
07-08 1086
近年来，随着深度学习技术的快速发展，大规模语言模型(Large Language Models, LLMs)在自然语言处理(Natural Language Processing, NLP)领域取得了巨大的突破。这些大语言模型通过在海量无标签文本数据上进行预训练，学习到了丰富的语言知识和常识，可以通过少量的有标签样本在下游任务上进行微调(Fine-Tuning)，获得优异的性能。其中最具代表性的大模型包括OpenAI的GPT系列模型、Google的BERT、T5等。
大语言模型原理与工程实践：大语言模型微调的挑战和探索
AGI通用人工智能之禅
08-31 6427
大语言模型原理与工程实践：大语言模型微调的挑战和探索 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来 随着深
大规模语言模型从理论到实践 有监督下游任务微调
AGI通用人工智能之禅
08-27 259
大规模语言模型从理论到实践：有监督下游任务微调 关键词： 大规模语言模型，微调，自然语言处理，预训练，监督学习，Transformer，BERT，NLP，下游任务
一文梳理推荐系统中如何应用大模型
u013250861的博客
10-13 241
今天给大家分享下华为诺亚方舟实验室的talk:《推荐系统如何从大语言模型中取长补短：从应用视角出发》，个人感觉很有信息量，我们组内同学也做过交流分享，相关信息也可以从综述找到："How Can Recommender Systems Benefit from Large Language Models: A Survey"，在此分享给大家。，需要通过引入推荐场景的数据，结合微调技术，为语言模型注入协同信号。代表性工作CTRL。研究怎么把推荐模型的信号引入LLM，但是不进行LLM的微调，代表性工作KAR。
大模型高效微调-PEFT框架介绍
ASS-ASH的博客
09-20 1002
通过打印的结果，我们可以看到我们只训练了模型参数的 0.19%，相对于原始的大模型，这个训练的参数量已经非常小了。接下来，我们就可以使用，Transformers Trainer，Accelerate 或者是 PyTorch training loop，来训练自己的模型，模型训练完成后，使用 save_pretrained 函数将模型保存到目录中。最近开源的大模型越来越多，但是针对我们个人来说，从零开始训练一个大模型的成本太高，因此我们介绍一个针对大模型的高效微调框架-PEFT。
大模型-微调技术：DeltaTuning【提出现有PEFT的统一框架；从优化角度解释PEFT的有效性；进行了超大规模的实验】【参数高效微调统一框架】
u013250861的博客
06-17 259
提出现有PEFT的统一框架；从优化角度解释PEFT的有效性；进行了超大规模的实验；
2023年的深度学习入门指南(12) - PEFT与LoRA
lusing的专栏
05-07 4156
大家都知道，大模型的训练需要海量的算力。其实，即使是只对大模型做微调训练，也是需要大量的计算资源的。 有没有用更少的计算资源来进行微调的方法呢？研究者研发出了几种被Hugging Face统称为参数高效微调PEFT(Parameter-Efficient Fine-Tuning)的技术。 这其中常用的几个大家应该已经耳熟能详了，比如广泛应用的LoRA技术(Low Rank Adapters,低秩适配)，Prefix Tuning技术，Prompt Tuning技术等等。
大模型内容分享(十一)：大模型高效微调（PEFT）方法大全
之乎者也·的博客
01-08 2484
结构简洁明了，在Transformer的前馈层后加入上图中右边所示的Adapter层，Adapter是一个bottleneck结构，先把d维特征映射为m维，然后通过一个非线性层，最后映射回d维特征，m
springboot基于vue 线上买菜系统源码+sql
最新发布
10-03
springboot基于vue 线上买菜系统源码+sql
将BP神经网络的正向传播过程移植到STM32微控制器上，完成完整的图像采集、
10-03
将BP神经网络的正向传播过程移植到STM32微控制器上，完成完整的图像采集、校正和识别过程NumRecognizeOn Chip
ChatGLM 微调指南：使用 PEFT 实现高效模型训练
资源摘要信息: "人工智能-ChatGLM-基于 PEFT 的高效 ChatGLM 微调" 1. Python版本要求：本资源需要Python 3.8或更高版本进行执行。Python是人工智能领域广泛使用的编程语言，以其简洁、易读性著称。在执行本资源...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

（initial）

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值