微调学习记录

已于 2024-10-02 17:19:16 修改
阅读量171 收藏 2
点赞数 3
分类专栏： 深度学习 文章标签： 学习
于 2024-10-02 17:10:26 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_52945258/article/details/142682736
版权

目前看到的市面上的微调文章，想大体上给他们分个类，方便后续进行重点学习

参数高效微调

1. LoRA

不用多说含金量

2. Rein

https://github.com/w1oves/rein

把它也算进来了，类似。

Adapter

adapter类的我感觉都大差不差，具体看怎么设计这个adapter。相应的他们的创新性也不是很高。先贴一个。

1. T2I-Adapter

https://github.com/TencentARC/T2I-Adapter?tab=readme-ov-file

Additive learning

1. Side-tuning

反向传播的时候不经过之前的base 模型，这样就可以提升反向传播的速度。

蜡笔新小
关注
专栏目录
大模型参数高效微调学习笔记
大模型天花板
06-23 478
1.BitFit将模型的所有偏置bias设为可训练的参数，其他部分设置为不可训练的。将模型的所有注意力层Attention设为可训练的参数，其他部分设置为不可训练的。在模型的输入的prompt前面加入一个可训练Prompt embedding向量，模型的整个部分全部冻结，如下图。如果Prompt embedding向量参数是随机初始化的，则是soft prompt，如果使用一段文本初始化（例如，“下面是一个情感任务”），则是hard prompt。4.P-tuning。
大模型微调学习记录-基于GLM-130B
Hero_Never_GIVE_UP的博客
01-19 694
训练大模型和全参数微调大模型需要使用配套加速套件如由HuggingFace(抱抱脸，不知道为什么起这样一个令人难忘的名字[震惊]）团队支持的。这里有个问题就是微调数据是否都是需要像这样组织，特别是prompt中是否需要“#” 和“*”进行划分。数据的组织还需要看训练数据是如何组织的。选择130B（1300亿参数）是从硬件性能考虑，可以在单张A100（40Gx8）上进行推理（高端A100 80Gx8），也可以进行INT4量化后在7GB的显存上运行。目前GLM2-130B优于或相当GPT-3-175B的性能。
大模型微调学习笔记（语文，英语题目问答）
Ciel791293704的博客
08-11 248
本人参加了星火大模型驱动阅读理解题库构建挑战赛，初次提交的成绩为66.72分，但远还没有达到进入复赛的及格分数。
深度学习笔记 —— 微调
LightInDarkness的博客
04-18 1503
通常希望能在很大的数据集上训练好的模型能够帮助提升精度。 一部分做特征抽取，一部分做线性分类。 核心思想：在源数据集（通常是比较大的数据集）上训练的模型，我们觉得可以把做特征提取那块拿来用。（越底层的特征越为通用） 在自己的数据集上训练的时候，使用一个与pre-train一样架构的模型，做除了最后一层的初始化的时候，不再是随机的初始化，而是使用pre-train训练好的weight（可能与最终的结果很像了，总好于随机的初始化），等价于把特征提取模块复制过来作为我初始化的模型，使得我一开始就..
深度学习——微调笔记+代码
jbkjhji的博客
12-16 903
注意：因为损失 Loss 是从后往前进行传递的，所以最后的分类部分训练比较快，进行随机初始化也不会有太大的影响；而前面的特征提取的部分本身已经具备很好的特征提取效果，只是根据源数据集和目标数据集的差异进行微调，可能在最开始训练的时候就已经比较接近最终的结果，所以不用做过多的训练和变动。思想：某个模型有一定的识别物体基础，不需要自己提供太大的数据集就能够获得更好的精度。思想:在一个大型数据集上训练好了模型用于特征提取部分，在目标数据集上提取特征进行重用。训练样本有限，训练模型的准确性可能无法满足实际的要求。
书生·浦语训练营 第四讲-Xtuner微调学习笔记
weixin_46873533的博客
04-21 710
根据项目目标使用环境进行模型选型，如果业务场景需求比较复杂就需要进行模型微调，根据算力是否充足可以选择模型的全参数微调或部分参数微调。的模型参数，固定大部分预训练模型参数，从而大大降低了计算和存储成本，同时能实现与全量参数微调相当的性能，甚至在某些情况下效果更好。微调是一个将预训练模型在较小、特定数据集上进一步训练的过程，目的是精炼模型的能力，提高其在特定任务或领域上的性能。Settings：涵盖模型的基本设置，包括预训练模型的选择、数据集信息以及训练过程的一些参数。
大模型学习笔记 - LLM指令微调
m0_37531129的博客
07-22 1075
# 指令微调技术。
微调大模型学习记录
qq_55736201的博客
05-12 983
一般来说, 垂直领域的现状就是大家积累很多垂域数据,从现实出发,第一步可以先做增量训练.所以会把模型分成3个阶段:(1)、第一阶段:(Continue PreTraining)增量预训练，在海量领域文档数据（领域知识）上二次预训练base模型，以注入领域知识.(2)、第二阶段: SFT(Supervised Fine-tuning)有监督微调，构造指令微调数据集，在预训练模型基础上做指令精调，以对齐指令意图。
深度学习中的微调模型
m0_52730486的博客
12-27 1327
迁移学习(Transfer learning) 是把已训练好的模型参数迁移到新的模型来帮助新模型训练。考虑到大部分数据或任务都是存在相关性的，所以通过迁移学习可以将已经学到的模型参数（也可理解为模型学到的知识）通过某种方式来分享给新模型从而加快并优化模型的学习效率不用像大多数网络那样从零学习。
通过微调 GPT-2 我自己的聊天机器人
04-26
完成配置后，运行模型训练代码块，GPT-2模型将会根据提供的聊天记录进行微调，学习对话模式和语言习惯。 微调完成后，你可以与这个聊天机器人进行交互，测试它的响应是否符合预期。值得注意的是，训练效果会受到...
【通义千问】大模型Qwen GitHub开源工程学习笔记（5）-- 模型的微调【全参数微调】【LoRA方法】【Q-LoRA方法】
weixin_46481662的博客
01-07 2563
注意，如果你使用预训练模型进行LoRA微调，而非chat模型，模型的embedding和输出层的参数将被设为可训练的参数。秩分解矩阵可以看作是一种特殊的调料，它可以改变模型的行为，使模型更好地适应新的任务，但并不会改变原有的食材（即预训练模型的权重）。相比之下，LoRA将预训练模型的权重冻结，并在转换器架构的每一层注入可训练的秩分解矩阵。这意味着在这种方法中，原始的预训练权重 W 是固定的，不会在后续的训练过程中进行更新，而是只对 A 和 B 进行训练。在全参数微调中，所有的模型参数都会被重新训练。
【20】迁移学习与微调（fine-tuning）方法
Clichong
09-15 3952
文章目录1. 迁移学习1.1 使用list列表直接截取1.2 直接对结构进行修改2. 微调2.1 冻结层2.2 分组设置参数组3. 优化器基类：Optimizer1. param_groups2. zero_grad3. state_dict4. load_state_dict5. add_param_group 这里关于迁移学习与微调的内容不再细说，有关概念可以参考：https://blog.csdn.net/weixin_44751294/article/details/116844391 1. 迁移学
大模型学习笔记九：模型微调
谢白羽
05-15 312
一、什么时候需要Fine-Tuning 二、用Hugging Face根据电影评论输出来对电影进行情感分类 1）安装依赖 2）操作流程 3）名字解释 4）代码导入库和加载模型、加载数据库、加载tokenlizer 5）其他相关公共变量赋值（随机种子、标签集评价、标签转token_Id） 6）处理数据集：转成模型接受的输入格式 7）定义数据规整器：训练时自动将数据拆分成Batch 8）定义训练超参：比如学习率 9）定义训练器 10）# 开始训练 11）加载训练后的模型进行推理（参考） 三、训练集和验证集的关系
Go基础学习08-并发安全型类型-通道（chan）深入研究
FLJS_T的博客
09-28 860
在前面学习中了解到对于单值变量，如：int、string；多值变量，如：map存在多协程对资源竞争的并发问题，为了解决并发性通常需要引入sync.Mutex解决。>对于通道的基本声明方式有三种：声明并初始化带缓冲的通道（ch1）；声明并初始化一个不带缓冲的通道（ch2）；仅仅声明一个通道（ch3） >什么是通道：==一个通道相当于一个先进先出（FIFO）的队列。也就是说，通道中的各个元素值都是严格地按照发送的顺序排列的，先被发送通道的元素值一定会先被接收。Select和for循环实现对channel的多次选
10.2学习
最新发布
2401_87363162的博客
10-02 924
​ Spring AOP就是基于动态代理的，如果要代理的对象，实现了某个接⼝，那么Spring AOP会使⽤JDKProxy，去创建代理对象，⽽对于没有实现接⼝的对象，就⽆法使⽤ JDK Proxy 去进⾏代理了，这时候Spring AOP会使⽤基于asm框架字节流的Cglib动态代理 ，这时候Spring AOP会使⽤ Cglib ⽣成⼀个被代理对象的⼦类来作为代理。每个线程中都有一个自己的ThreadLocalMap类对象，可以将线程自己的对象保持到其中，各管各的，线程可以正确的访问到自己的对象。
6.824 Lab 2C 学习记录
kingsill的博客
09-29 302
最后10s，开始的时候，恢复网络，插入一个数据，等待这个数据被提交，如果超过这10s就报错。2C的test中的unreliable figure8算是给博主的迎头一棒，需要根据raft论文的figure8进行解决，leader。根据前任及博主自己的经验，unreliable figure8的除了上述这一点以外，需要对。博主由于之前的不严谨，给自己留下了很大的改进困难，最后不得不重构代码。进行一定的设计，可以参考课程里老师提出的意见。一下为博主的github仓库，需要的可以参考。有一定的考验，那么就需要对。
【DirectX sdk 学习使用】
qq_41610493的博客
10-01 324
设置包含目录：打开你的项目属性，导航到VC++目录，然后在包含目录中添加DirectX SDK的Include文件夹路径。设置库目录：同样在VC++目录中，在库目录中添加DirectX SDK的Lib文件夹路径。运行安装程序：下载完成后，找到下载的安装程序（通常是一个.exe文件），双击运行。选择安装路径：选择你希望安装DirectX SDK的路径，或者使用默认路径。如果你有任何问题或需要进一步的指导，请随时告诉我。接受许可协议：在安装向导中，阅读并接受许可协议。完成安装：点击“安装”按钮，等待安装完成。
Elasticsearch学习笔记(2）
m0_74293254的博客
09-28 1160
创建索引: 使用 PUT 请求来定义索引及其映射。创建文档: 使用 POST 请求将数据添加到索引。读取文档: 使用 GET 请求获取特定文档。更新文档: 使用 POST 加上 _update 操作来修改现有文档。删除文档: 使用 DELETE 请求删除指定文档。删除索引: 使用 DELETE 请求删除整个索引。请求方式：POST请求格式：/{索引库名}/_doc/文档id示例：POST /my_index/_doc/1 { "field": "value" }
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值