Multi-LoRA Composition | 无需训练的任意LoRA组合

已于 2024-07-03 11:20:56 修改
阅读量1k 收藏 18
点赞数 29
文章标签： 计算机视觉 人工智能
于 2024-06-27 15:58:28 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_37574187/article/details/140015894
版权

Multi-LoRA Composition | 无需训练的任意LoRA组合

发布于 2024-03-14 11:22:45

文章被收录于专栏：AI算法能力提高班

Multi-LoRA Composition | 无需训练的任意LoRA组合

本文主要介绍无需训练的任意数量LORA的切换与组合方法，说人话就是“可以将每个Lora的特色合成到一张图像上，比如人物、服装、物体这3个LORA通过不训练的方法，就可以在一张图像上合成这3种元素，且精度没有损失”。

引言

该项目探索文本到图像生成的新方法，重点是集成多个低秩适应 (LoRA) 以创建高度定制和详细的图像。推出 LoRA Switch 和 LoRA Composite，这些方法旨在在准确性和图像质量方面超越传统技术，尤其是在复杂的构图中。

01 亮点介绍

无需训练，即可将任意数量的LoRA模型进行切换或者组合

  • LoRA Switch 和 LoRA Composite 无需微调即可动态、精确地集成多个 LoRA。
  • 与合并 LoRA 权重的方法不同，该方法专注于解码过程，保持所有 LoRA 权重完整。
02 先睹为快

03 测试结果

最低0.47元/天 解锁文章
InternLM-XComposer2:Mastering free-form text-image composition and comprehension in vision-llm
liguandong
05-28 179
预训练阶段使视觉特征与语言对齐，使得llm能够理解图像内容，然而，仍然缺乏有效利用图像信息的能力，在后续的监督微调阶段引入了一系列视觉语言任务，这个阶段包括两个任务，1.Multi-task training，2.Free-form Text-Image Composition，在这个阶段，我们联合微调视觉编码器，llm和Partial lora。自由形式的文本图像组合指的是灵活且无限制的结合文本内容和视觉元素，模型生成交错的文本和图像，收集了大量的数据，1.多样的写作风格，学术论文，社交媒体和诗歌；
万字精研：大型语言模型微调Fine-Tuning技术——14种主流方法的原理、适用场景及实践指南
丨汀、的博客
09-05 1105
万字精研：大型语言模型微调Fine-Tuning技术——14种主流方法的原理、适用场景及实践指南
多LoRA适配器的原理、方法、实现及优势
强化学习曾小健
12-20 727
虽然vLLM框架支持同时加载多个适配器，但它通过高效的内存管理机制，确保这些适配器在内存中的占用最小化。LoRA适配器通过低秩矩阵分解技术，只对预训练模型的部分参数进行微调，而不是对整个模型进行完整的微调。这种方法显著减少了微调所需的计算资源和时间。例如，通过微调适配器，可以使模型在特定类型的问题上表现得更好。如果你的应用需要高效、快速的响应，且可以通过微调模型来显著提升特定任务的性能，LoRA适配器可能更合适。如果你的应用需要实时访问和使用最新的外部信息，或者需要处理大量背景知识，RAG方法可能更适合。
微软AI文生图新突破，用于图像生成的多LoRA组合训练模型Multi-LoRA-Composition
heehelcom的博客
02-28 1410
通过引入LoRA技术、采用免训练方法以及提出基于GPT-4V的评估工具，他们成功地创造出了高度个性化且细节丰富的图像。微软近期在文本至图像生成领域取得了一项重要突破，通过引入多重低秩适应（LoRA）技术，成功地创造出了高度个性化和细节丰富的图像。这一研究不仅为我们带来了全新的图像生成方法，还为我们提供了一种基于GPT-4V的图像质量评估工具。通过该平台，研究人员可以对基于LoRA的可组合图像生成任务进行定量评估，从而更加客观地评价生成图像的质量。与传统的需要微调的方法不同，这项研究采用了免训练的方法。
AI大模型底层技术——Multi-LoRA Combination Methods
最新发布
Arthur Guo 的专栏
03-29 796
"Multi-LoRA Combination Methods" 指的是在 LoRA (Low-Rank Adaptation) 微调的基础上，使用多个 LoRA 模块，并通过特定的方法将它们组合起来，以适应多任务学习、领域自适应或模型个性化等场景的技术。与传统的 LoRA 方法只使用单个 LoRA 模块不同，"Multi-LoRA Combination Methods" 能够利用多个 LoRA 模块的优势，实现更灵活、更强大的模型微调。
（2024，动态 LoRA，LoRA Switch，LoRA Composite，组合图像生成）用于图像生成的多 LoRA 组合
qq_44681809的博客
03-01 1465
现有方法在组合多个 LoRA 时面临挑战。为此，本文提出了两种无需训练的方法：LoRA Switch，它在每个去噪步骤中在不同的 LoRA 之间交替，以及 LoRA Composite，它同时整合所有 LoRA 以引导更一致的图像合成。
LLM - LoRA 模型合并与保存
热门推荐
BITDDD小栈
08-03 2万+
LoRA 模型 merge_and_unload 合并与保存。
探索多模态智能：Multi-LoRAs - 搭建更强大、更灵活的预训练模型
gitblog_00061的博客
06-22 556
探索多模态智能：Multi-LoRAs - 搭建更强大、更灵活的预训练模型 multi_lorasLoad multiple LoRA modules simultaneously and automatically switch the appropriate combination of LoRA modules to generate the best answer based on us...
单GPU实现LLM多LoRA微调
强化学习曾小健
06-27 900
基于transformer的LLM在不同领域表现出出色的性能，特别是针对特定领域进行微调时。微调LLM所需的资源可以通过低秩自适应（LoRA）等高效参数微调方法来节省。虽然LoRA有效减少了计算负担和资源需求，但它目前仅支持单作业微调。本文提出了ASPEN，一个高吞吐量的LLM微调框架，其利用共享的预训练模型和自适应调度，使用LoRA在单个GPU上有效地训练多个作业。实验表明，ASPEN在。
MSRA联合清华在LoRA相关工作最新进展—混合LoRA专家 (MoLE)
zenRRan的博客
04-30 1361
深度学习自然语言处理 原创作者：fanmetasy引言2022年提出的LoRA（Low-Rank Adaptation）已成为微调大型预训练模型的关键技术，其在多种任务中均展现了有效性。LoRA的模块化架构，推动了利用多个经过训练的LoRA模型进行协同组合的进一步研究，这能够提高各种任务的性能。然而，将训练好的LoRA模型进行有效组合会有一个巨大的挑战:使用线性算法组合可能导致原始预训练模型固有的...
Multi-LoRAs 项目使用教程
gitblog_00935的博客
08-25 925
Multi-LoRAs 项目使用教程 multi_lorasLoad multiple LoRA modules simultaneously and automatically switch the appropriate combination of LoRA modules to generate the best answer based on user queries.项目地址:htt...
【大模型】一个基座模型部署多个lora
己亥孟陬
04-16 3271
vllm推出了一个很棒的功能，可以分别加载base模型和lora层，并且可以加载多个lora层，通过指定lora层名字确定到底调用哪一个。这种特性是非常有价值的：同时加载N套微调参数，这样做不会影响大模型原有能力，通过选择微调层可以提供给用户不同的专项微调能力，而且可以实现权限管控，防止敏感信息泄露，此外更多新微调能力的接入也非常方便。这对GPU的消耗也太高了吧！一种很直接的思路是，将多个微调任务整合起来，一次性lora微调多个任务，这样就只需要部署一个微调模型了。
LLM-微调：LoRA 模型合并与保存【将利用lora训练后的lora模型与基座模型合并，将新合并的模型用作独立模型】【可以将基座模型合并多个lora模型】【也可不合并模型，前向推理计算后再合并结果】
u013250861的博客
10-22 4645
虽然 LoRA 明显更小，训练速度更快，但由于分别加载基本模型和 LoRA 模型，可能会在推理过程中遇到延迟问题。为了消除延迟，可以使用 merge_and_unload 函数将适配器权重与基本模型合并，这样可以有效地将新合并的模型用作独立模型。LoRA 模型中可训练参数的结果数量取决于低秩更新矩阵的大小，其主要由秩 r 和原始权重矩阵的形状确定。通过 merge_and_unlaod 方法可以合并多个 Lora 模型，这里博主尝试将同一个模型的 3 个 CKPT 合并至原始模型中。
Diffusers代码学习：合并Lora
duhaining1976的博客
07-03 790
AIGC研究及应用系列
TGI 多-LoRA: 部署一次，搞定 30 个模型的推理服务
Hugging Face
08-12 1370
你是否已厌倦管理多个 AI 模型所带来的复杂性和高成本？那么， 如果你可以部署一次就搞定 30 个模型推理服务会如何？ 在当今的 ML 世界中，哪些希望充分发挥其数据的价值的组织可能最终会进入一个“微调的世界”。在这个世界，各个组织会构建大量模型，其中每个模型都针对特定任务进行了高度特化。但是，如何处理为每个细分应用部署模型所带来的麻烦和成本呢？多-LoRA 服务提供了一个有潜力的答案。动机对组织...
RTX AI PC 和工作站上部署多样化 AI 应用支持 Multi-LoRA
sdfghwijiebvnd的博客
09-09 1770
LoRA 是一种热门的参数高效微调技术，可以调节少量参数。其他参数称为 LoRA 适配器，表示网络密集层中变化的低秩分解。只有这些低级别的附加适配器是自定义的，而在此过程中，模型的剩余参数会被冻结。经过训练后，这些适配器将在推理期间通过合并到基础模型进行部署，从而在推理延迟和吞吐量方面尽可能减少，甚至不增加任何开销。图 1. A 和 B 中的参数表示可训练的参数，以展示 LoRA 技术（来源：LoRA：大型语言模型的低阶适应图 1 展示了有关 LoRA 技术的更多详细信息。
【论文阅读笔记】MultiLoRA: Democratizing LoRA For Better Multi-Task Learning
weixin_45225032的博客
11-27 1686
本文介绍了MultiLoRA，通过改善LoRA奇异值分解不均匀的问题，提高LoRA在多任务领域的性能表现。本文通过多个LoRA连加并且引入可训练的系数因子改变LoRA中B矩阵的初始化方式提高性能表现。通过多个空间特征的热力图对比，证明了方法的有效性。
基于大语言模型的LoRA微调及模型合并技术实践指南
North_D的博客
02-24 4018
模型合并主要涉及将多个LoRA模型的适配器参数有效地整合到一个统一的模型中，以便在一个模型上执行多种任务。
大模型 lora 训练后的权重合并
TFATS的博客
02-03 486
【代码】大模型 lora 训练后的权重合并。
探索Alpaca-Lora-Airaria-Lora技术
资源摘要信息: "alpaca-lora-airaria-lora.zip" 在处理标题、描述和文件列表信息时，我们注意到这些信息实际上是重复的，并没有提供具体的技术细节。然而，从文件名中我们可以推测一些潜在的知识点，虽然没有详细...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值