LoRA.rar

LoRA.rar

Title: LoRA.rar: Learning to Merge LoRAs via Hypernetworks for
Subject-Style Conditioned Image Generation
上次编辑: January 3, 2025 9:06 PM
概括: 在ZipLoRA的基础上对超参数矩阵进行训练
paper: https://arxiv.org/pdf/2412.05148

Method

1. ZipLoRA提出训练系数权重向量的方式来进行两个LoRA参数的逐层融合，在实际操作中，通过计算输出之间的loss和两个系数向量本身的loss来进行系数向量的训练，从而减少权重之间的余弦相似度

   

2. 在ZipLoRA的基础上，提出训练一个超参数的网络，用于计算出一个合并的权重向量

   

3. 数据生成：训练一系列的LoRA，将其分割为训练集