LLM基础模型系列：Prefix-Tuning_prefix tuning是怎么在transformer中添加的新layer的呢-CSDN博客

本文链接：https://blog.csdn.net/Janexjy/article/details/140585762

------->更多内容，请移步“鲁班秘笈”！！<------

Prefix Tuning和Prompt Tuning最大的区别就是向每层的Transformer Block添加可训练的张量，而上一期的Prompt Tuning只是在输入的时候添加。

此外，通过全连接层（具有两层的迷你MLP和介于两者之间的非线性激活函数）来进行桥接。下图左侧为原始的Transformer块，而右侧为添加之后的Prefix Tuning架构。

根据最初的Prefix Tuning的论文，这种技术实现了与全微调的性能，然而只需要训练0.1%的参数（当然当时它对标的是GPT-2模型）。有一种猜测它的表现如此的好，是因为它调整了较少的参数，有助于减少较小训练上面的过渡拟合。下面第一行为全部参数微调训练，第五行为Prefix Tuning。

其实这个家族还有一个叫做P-Tuning的，它分为1.0版本和2.0版本。1.0版本和Prompt Tuning的区别在于额外Token的填充位置，1.0在输入序列的任意位置插入可训练的连续提示向量，使用一个小型的神经网络（比如LSTM）来生成这些提示向量。2,.0在模型的每一层都添加了可训练的提示向量，类似于 Prefix-tuning，它简化了提示向量的生成方式，直接对这些向量进行优化，而不使用 LSTM。