大模型微调技术——Prefix Tuning 与 Prompt Tuning总结

置顶 已于 2023-08-16 21:36:01 修改
阅读量2.5k 收藏 7
点赞数 6
分类专栏： 大模型 文章标签： prompt gpt-3 chatgpt 人工智能
于 2023-07-26 14:04:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41838627/article/details/131937645
版权

四大模块，40个知识点，快速阅览Prefix Tuning 与 Prompt Tuning 技术
在这里插入图片描述
建议补完Prefix Tuning 与 Prompt Tuning 技术基础，再去回顾P-Tuning及P-Tuning v2技术，能更好理解这四项技术之间的联系与区别
大模型微调技术系列原理：
大模型微调技术——概述
大模型微调技术——LoRA
大模型微调技术——Prefix Tuning 与 Prompt Tuning总结
大模型微调技术——P-Tuning及P-Tuning v2总结

Prefix Tuning

在这里插入图片描述

Prompt Tuning 及 两者比较

在这里插入图片描述

爪哇 o_O
关注
专栏目录
LLM微调 | Prefix-Tuning, Prompt-Tuning, P-tuning, P-tuning-v2
weixin_43646592的博客
07-31 2026
LLM微调 | Prefix-Tuning, Prompt-Tuning, P-tuning, P-tuning-v2
Prompt-Tuning——深度解读一种新的微调范式
热门推荐
夏栀的博客
11-19 7万+
Prompting——深度解读一种全新的微调范式   自从GPT、EMLO、BERT的相继提出，以Pre-training + Fine-tuning 的模式在诸多自然语言处理（NLP）任务中被广泛使用，其先在Pre-training阶段通过一个模型在大规模无监督语料上预先训练一个预训练语言模型（Pre-trained Language Model，PrLM），然后在Fine-tuning阶段基于训练好的语言模型在具体的下游任务上再次进行微调（Fine-tuning），以获得适应下游任务的模型。这种模式在诸
HuggingFace学习笔记--Prompt-Tuning、P-Tuning和Prefix-Tuning高效微调
牵一只蜗牛去散步
12-03 4834
Soft prompt 通常指的是一种较为宽泛或模糊的提示，允许模型在生成结果时有更大的自由度，通常用于启发模型进行创造性的生成；P-Tuning 是在 Prompt-Tuning的基础上，通过新增 LSTM 或 MLP 编码模块来加速模型的收敛；Prompt-Tuning 高效微调只会训练新增的Prompt的表示层，模型的其余参数全部固定；1-1--Prompt-Tuning介绍。3-1--Prefix-Tuning介绍。2-1--P-Tuning介绍。
大模型微调-详解Prompt Tuning、Prefix Tuning和P-Tuning
m0_56255097的博客
08-15 1272
通过上述三种参数高效微调（PEFT）技术方案——Prompt Tuning、Prefix Tuning 和 P-Tuning，研究者们能够在不改变预训练语言模型（PLM）参数的前提下，实现模型在不同下游任务上的高效适配。这些方法不仅降低了计算成本和存储需求，还提高了模型在各种任务上的表现。希望这些快递运输的比喻和其他例子能帮助你更好地理解这些技术原理。随着技术的不断发展，相信会有更多创新的方案涌现，为自然语言处理领域带来新的突破。
解密Prompt系列3. 冻结LM微调Prompt: Prefix-tuning & Prompt-tuning & P-tuning
人工智能曾小健
06-16 1744
这一章我们介绍在下游任务微调中固定LM参数，只微调Prompt的相关模型。这类模型的优势很直观就是微调的参数量小，能大幅降低LLM的微调参数量，是轻量级的微调替代品。和前两章微调LM和全部冻结的prompt模板相比，微调Prompt范式最大的区别就是prompt模板都是连续型（Embedding），而非和Token对应的离散型模板。核心在于我们并不关心prompt本身是否是自然语言，只关心prompt作为探针能否引导出预训练模型在下游任务上的特定能力。性价比高！
Prompt-Tuning、Instruction-Tuning、prefix tuning的区别；Instruction-Tuning（指令调优），和Prefix-Tuning（前缀调优）相关的例子
人工智能曾小健
06-21 7183
如果模型生成了错误的结果，则给予负向奖励。通过 Prefix-Tuning 技术，你可以在模型输入的开头添加一个特定的前缀，来指导对话生成的内容。Prefix-Tuning（前缀调优）：Prefix-Tuning 是一种通过在模型输入中添加特定的前缀，来引导模型生成特定类型的输出。总结来说，Prompt-Tuning 是通过提示来引导模型生成相关内容，Instruction-Tuning 是通过指令来训练模型执行特定任务，而 Prefix-Tuning 是通过在输入中添加前缀来控制生成结果的格式和结构。
详解大模型微调方法Prompt Tuning(内附实现代码)
分享机器学习、深度学习、分布式计算、MLSys相关领域知识
06-24 1万+
Prompt Tuning是现在大模型微调方法中的一种常用方法，本文通过解读5篇论文来了解Prompt Tuning方法演进的过程。分别是Prefix-Tuning、P-Tuning v1、Parameter-Efficient Prompt Tuning、P-Tuning v2。
peft代码解读:Prefix Tuning/LoRA/P-Tuning/Prompt Tuning
weixin_36378508的博客
06-28 2544
peft
大模型参数高效微调技术 BitFit、Prefix Tuning、Prompt Tuning、P-Tuning、Adapter Tuning、LoRA 等基础知识
程序员光剑
06-15 1万+
以上介绍了6种基于大模型参数高效微调技术： BitFit、Prefix Tuning、Prompt Tuning、P-Tuning、Adapter Tuning、LoRA，每种技术都有各自独特的优点和适用范围。这些技术为我们提供了一种高效的方式来处理大型神经网络模型。在未来，这些技术将继续得到改进和发展，使得它们能够更好地满足各种应用领域的需求。
大模型的实践应用21-P-tuning微调技术详细介绍，计算效率与模型性能比较
weixin_42878111的博客
04-21 313
大家好，我是微学AI，今天介绍一下大模型的实践应用21-P-tuning微调技术详细介绍，计算效率与模型性能比较。 P-tuning是一种高效的微调方法，主要用于预训练的大型语言模型（LLMs）。这种方法的核心思想是将传统的、固定的提示（prompt）转换为可学习的嵌入（embedding）层，并通过一个简单的神经网络（如MLP或LSTM）对这些嵌入进行处理。这样，模型就可以根据特定的任务动态地调整这些提示，而不是像传统的Prompt Tuning那样使用固定的模板。
万字精研：大型语言模型微调Fine-Tuning技术——14种主流方法的原理、适用场景及实践指南
最新发布
丨汀、的博客
09-05 326
万字精研：大型语言模型微调Fine-Tuning技术——14种主流方法的原理、适用场景及实践指南
预训练范式提示学习方法一览（PET， Prefix-tuning，P-tuning，prompt tuning， PPT，SPoT， Prompt-tuning鲁棒性研究）
weixin_36378508的博客
02-07 2195
prompt 训练
预训练新范式！为什么Prompt会更有效？
Kaiyuan_sjtu的博客
01-17 5812
作者|上杉翔二悠闲会·信息检索整理|NewBeeNLP「Prompt Tuning也许会是深度学习时代的Feature Engineering问题，如何给各大...
一文辨析清楚LORA、Prompt Tuning、P-Tuning、Adapter 、Prefix等大模型微调方法
人工智能讲师分享前沿技术
11-21 5156
P-Tuning：使用一个可训练的LSTM模型（称为prompt_encoder）来动态生成虚拟标记嵌入，允许根据输入数据的不同生成不同的嵌入，提供了更高的灵活性和适应性，适合需要精细控制和理解复杂上下文的任务，相对复杂，因为它涉及一个额外的LSTM模型来生成虚拟标记嵌入。感性理解:大模型微调指的是“喂”给模型更多信息，对模型的特定功能进行 “调教”，即通过输入特定领域的数据集，让其学习这个领域的知识，从而让大模型能够更好的完成特定领域的NLP任务，例如情感分析、命名实体识别、文本分类、对话聊天等;
大模型微调实践——Prompt tuning、PET、Prefix tuning、P-tuning的原理、区别与代码解析(二)
人工智能讲师分享前沿技术
04-18 540
类PtuningEmbedding中，变量经过stop_gradient算子后，在反向传播的时候梯度为0，但是前向传播不变，因此在上述代码中，前向传播的结果不会有变化，但是反向传播求梯度的时候，梯度不为0的token由mask变量控制，其余token的梯度都为零。这样做的理由是：因为我们的MLM/LM都是经过自然语言预训练的，那么能够很好完成重构的序列必然也是接近于自然语言的，因此这样增加训练目标，也能起到让模型更贴近自然语言的效果，相比单纯优化下游任务的目标，确实提升了效果。
一文搞清楚LORA、Prompt Tuning、P-Tuning、Adapter 、Prefix等大模型微调方法
丨汀、的博客
03-04 1262
一文搞清楚LORA、Prompt Tuning、P-Tuning、Adapter 、Prefix等大模型微调方法
解密Prompt系列3. 冻结LM微调Prompt: Prefix-Tuning & Prompt-Tuning & P-Tuning
Gefangenes的博客
07-04 415
这一章我们介绍在下游任务微调中固定LM参数，只微调Prompt的相关模型。这类模型的优势很直观就是微调的参数量小，能大幅降低LLM的微调参数量，是轻量级的微调替代品。和前两章微调LM和全部冻结的prompt模板相比，微调Prompt范式最大的区别就是prompt模板都是连续型（Embedding），而非和Token对应的离散型模板。核心在于我们并不关心prompt本身是否是自然语言，只关心prompt作为探针能否引导出预训练模型在下游任务上的特定能力。固定LM微调Prompt的范式有以下几个优点。
finetuning大模型
03-13
Finetuning大模型是指在已经训练好的预练模型基础上，通过在特定任务上进行微调来提高性能。通常情况下，大模型是指参数量较大的深度学习模型，如BERT、GPT等。 Finetuning大模型的一般步骤如下： 1. 预训练：使用大规模的无标签数据对模型进行预训练，例如使用语言模型任务对模型进行预训练。 2. 微调准备：根据具体任务的需求，准备相应的标注数据集，并将数据集转化为适合模型输入的格式。 3. 模型微调：将预训练好的模型加载进来，并在特定任务上进行微调。微调过程中，通常会对模型的一部分或全部参数进行更新，以适应特定任务的要求。 4. 参数调优：根据微调过程中的性能表现，对模型的超参数进行调优，以进一步提升性能。 5. 性能评估：使用验证集或测试集对微调后的模型进行评估，以确定模型在特定任务上的性能。 通过finetuning大模型，可以利用预训练模型在大规模数据上学到的知识和表示能力，快速有效地解决特定任务。这种方法在自然语言处理、计算机视觉等领域取得了很好的效果。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值