Lora微调LLM报错合集

最新推荐文章于 2025-02-05 11:32:09 发布
最新推荐文章于 2025-02-05 11:32:09 发布
阅读量1.1k 收藏 3
点赞数 11
文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_29304033/article/details/136915616
版权
文章讲述了在使用peft微调Transformer模型时遇到的四个问题：adapter_model.bin未保存、loss不下降、预测时的IndexError以及环境依赖问题。给出了相应的解决方案，如设置保存策略、调整模型参数和处理CUDA设备映射等。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

使用Transformers.Trainer + peft 微调LLM

1. 没有保存adapter_model.bin

 导致预测的时候， 报错 Please check that the file adapter_model.bin is present at Peft...

解决办法：

# 1. Trainer保存时没保存.bin, 在构造TrainingArguments参数时控制
args = TrainingArguments(
    output_dir=OUTPUT_DIR, # checkpoint的存储目录
    per_device_train_batch_size=BATCH_SIZE, # 单设备上的batch size
    gradient_accumulation_steps=GRADIENT_ACCUMULATION_STEPS, # 梯度累加的step数
    warmup_steps=100,
    num_train_epochs=EPOCHS,
    learning_rate=LEARNING_RATE,
    fp16=True, # 使用混合精度训练
    logging_steps=1,
    evaluation_strategy="no", # 不进行评估
    save_strategy="steps",
    save_steps=1000, # 保存checkpoint的step数， 这个保存很耗时间
    save_total_limit=5, # 最多保存5个checkpoint
    deepspeed=DS_CONFIG,
    remove_unused_columns=False,
    save_safetensors=False # 这个参数控制保存格式&#
最低0.47元/天 解锁文章
【LoRa】【BLOOMZ】用peft训练bloomz保存检查点，保存和加载的权重不一致？？？adapter_model.bin只有4kb？？？
weixin_43857772的博客
07-16 674
能看到检查点中adapter_model.bin只有4kb，这明显什么都没有保存。，训练了1轮后发现，结果没有任何变化，用几个检查点做了测试结果也是没有任何变化。最近用peft的lora对bloomz做训练，参考的。都是解决保存和加载不一致的问题。但最终，我的解决办法是把。有两篇帖子能作为参考。
【保姆级教程】使用lora微调LLM并在truthfulQA数据集评估（Part 1.微调训练）
qq_35328355的博客
11-22 1228
在本期blog中，我们将逐步完成下面的任务： **1. 使用lora微调`gemma-2b-it`模型，数据集为`Alpaca_cleaned_data` 2. 在`truthfulQA`数据集上评估模型效果**
微调alpaca-lora遇到的一些问题
鲨鱼儿的博客
03-21 2155
环境：系统：Ubuntupeft：0.9.0。
Control-LoRA模型的常见错误及解决方法
gitblog_02785的博客
12-30 839
Control-LoRA模型的常见错误及解决方法 control-lora 项目地址: https://gitcode.com/hf_mirrors/ai-gitcode/control-lora ...
AnythingLLM上传文档 报错：Error: 1 documents failed to add. fetch failed
分享一些前端技巧
02-05 7236
Error: 1 documents failed to add. fetch failed
lora训练傻瓜包的安装使用教程、报错解决方案（kohya_ss和LoRA_AllInOnev2.1）
LY_LM的博客
09-19 3021
kohya_ss GUI新版的安装以及LoRA_AllInOnev2.1版本的安装和报错解决方案。
ChatGLM lora微调时出现KeyError: ‘context‘的解决方案
weixin_39818775的博客
06-02 1115
在使用 ChatGLM Lora 进行微调时，您遇到了错误，这通常表明代码中缺少对context变量的定义或赋值。ChatGLM Lora 是基于 Transformer 架构的大型语言模型，它具有强大的文本生成和理解能力。Lora 是对其进行微调的技术，可以使其在特定领域或任务上表现更好。ChatGLM Lora 是一个强大的 NLP 模型，可用于各种自然语言处理任务。Lora 微调可以提升其在特定领域或任务上的表现。在使用 ChatGLM Lora 进行微调时，请确保正确定义和使用context。
大模型工具AnythingLLM添加文件报错“Error:1 documents failed to add”
热门推荐
gogozh的专栏
07-23 2万+
4，重启系统后用docker的方式安装AnythingLLM。（docker的方式比单机版功能丰富些）2，移除docker安装的AnythingLLM。1，卸载本地安装的AnythingLLM。插入本地文件插入的问题。
peft lora微调代码解析，llama2-7b lora微调实战
weixin_45761030的博客
07-25 1905
运行微调使用的peft版本是v0.11.1， 代码解析使用的peft版本是0.11.2.dev0，这个版本单独将dora提取出来了。
基于llama3-8B-instruct的调用部署以及lora微调
Alexa_的博客
06-17 2794
LoraConfig这个类中可以设置很多参数，但主要的参数没多少，简单讲一讲，感兴趣的同学可以直接看源码。
chatglm2微调—Lora
babyzbb636的博客
10-19 738
网络上复制的一直报错export_model.py: error: the following arguments are required: --output_dir.明明指定了输出路径，甚至放在根目录或者绝对路径还报错，直至看到项目下example/train_sft.sh文件发现复制命令的有些换行。目前主流对大模型进行微调方法有三种：Freeze方法、P-Tuning方法和Lora方法。推荐使用项目下example/train_sft.sh。推荐一些写的不错的链接以及官网readme。
使用Anything-llm save and embed时不成功Error:1 documents failed to add.
swizzling的博客
06-25 1万+
特别注意点，登陆localhost:3001后先不要修改为中文，embedder先用默认的anythingllm embedder去save and embed，如果不再出错就可以修改embedder及中文，max embedding chunk length不要超过最大size，nomic是8192，mxbai是512。虽然玄学但是这通过这个方法解决的。2.删除创建容器时候的anythingllm文件夹内的所有文件。3.docker start 容器名字。1.docker stop 容器名称。
Hugging Face PEFT 调优实战附代码
sinat_39483965的博客
05-22 3502
Hugging Face PEFT调优实战附代码
大语言模型-RLHF(二)——LoRA实现&代码逐行讲解
qjzcy的博客
06-14 6839
为方便学习，对ChatGlm的代码做了逐行解读，这里主要是lora方法使用，里面核心的部分如数据的解析，loss的定义，lable制作，lora调用的框架流程等。将输入转化为我们想要的input和lable格式，注意这里输入的特征是已经转化为id的特征，根据我们自己的数据和需要定义，重写 compute_loss 方法，计算模型的损失。（1）将promot和input，target转化为我们想要的input格式。整体代码如下，文件获取可以参考git。1，数据处理，两个功能。3，loss计算定义。
全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
lythinking的博客
04-15 6980
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。若使用Hugging Face，需要申请 API Key 并且需要本地有 Python 或其他编程语言的环境。而使用Ollama则更加简单。✨ AI算法工程师 | AIGC技术实践者 🚀🎵 知音难求，自我修炼亦艰。📚 吾生也有涯，而知也无涯。🌌 AIGC时代，立志成为超级个体：抓住前沿技术的机遇，与我们一起成为创新的超级个体。✉️ 回复“群聊”，就能和大家嗨聊！
你是一名研究生导师，我是一名学生，现在研究生复试，我的简历里面的计算机能力：熟练掌握Python、MATLAB等编程语言和PyTorch等框架，熟悉Linux，Git等操作，了解huggingface、transformer、BERT及其变体，GPT系列、rag、agent、MetaGPT、LangChain、MOE、llama、lora等 你作为老师会做出什么样的提问，想要的答案又是什么
最新发布
03-31
<think>好的，我现在需要处理用户关于研究生复试中计算机能力相关面试题的问题。用户提到的技术包括Python、MATLAB、PyTorch、Linux、Git、Hugging Face Transformers、BERT、GPT、RAG、Agent、MetaGPT、LangChain、MOE、LLaMA、LoRA等。我需要先针对每个技术点，思考可能的面试问题，并组织合理的答案。同时，要确保回答结构清晰，符合用户的要求，比如使用正确的中文和LaTeX格式，以及生成相关问题。 首先，Python方面，常见的问题可能涉及基础语法、数据结构、装饰器、GIL等。比如解释列表和元组的区别，或者装饰器的作用。需要简明扼要地给出答案，并举例代码。 接下来是MATLAB，问题可能集中在矩阵操作、仿真应用、与其他语言的区别。例如，如何读取Excel数据，或者MATLAB在信号处理中的应用。 PyTorch方面，可能会问动态计算图、张量操作、自动求导等。比如解释动态计算图和静态计算图的区别，或者如何自定义损失函数。 Linux的常见问题包括基本命令、权限管理、进程查看等。例如，如何查找文件，或者如何解压.tar.gz文件。 Git的问题可能涉及基本命令、分支管理、冲突解决。比如解释git fetch和git pull的区别，或者如何撤销提交。 Hugging Face Transformers库的问题可能涉及预训练模型的使用、微调方法。例如，如何用BERT做文本分类，或者迁移学习的优势。 BERT和GPT的区别通常是重点，比如架构（编码器vs解码器）、预训练任务的不同。 RAG（检索增强生成）可能涉及工作原理和应用场景，比如结合检索和生成的优势。 Agent和MetaGPT可能涉及概念、多智能体协作的实现。需要解释其基本思想和工作流程。 LangChain的问题可能围绕其用途，比如如何集成不同模块构建应用。 MOE（混合专家模型）需要解释其结构，比如如何分配输入到不同专家。 LLaMA和LoRA方面，可能问模型特点及参数高效微调方法，比如LoRA如何减少训练参数。 需要确保每个答案准确，并引用相关文献或资料。同时，生成的相关问题要覆盖各个技术点，帮助用户全面准备。 现在，检查是否有遗漏的技术点，如Hugging Face中的Transformer库、Git的高级操作、PyTorch的动态图细节等。确保每个问题都有对应的答案，并且答案结构清晰，使用正确的格式，如代码块用反引号，数学公式用$...$或$$...$$。最后，生成的相关问题要自然，覆盖可能的考察方向。</think>### 研究生复试常见计算机能力面试题与参考答案 --- #### **Python** **问题1：解释Python中列表与元组的区别** 列表可变（支持增删改），内存分配动态；元组不可变，哈希化后可作字典键。例如： ```python a = [1,2] # 列表 a.append(3) # 合法 b = (1,2) b[0] = 3 # 报错 ``` **问题2：装饰器的作用是什么？写一个计时装饰器** 装饰器用于扩展函数行为（如日志、计时）。示例： ```python import time def timer(func): def wrapper(*args): start = time.time() result = func(*args) print(f"耗时: {time.time()-start:.2f}s") return result return wrapper @timer def my_func(): time.sleep(1) ``` --- #### **PyTorch** **问题1：动态计算图与静态计算图的区别** 动态图（如PyTorch）每次前向传播即时构建图，灵活性高；静态图（如TensorFlow）需预先定义，适合优化部署[^1]。 **问题2：如何自定义损失函数？** 继承`torch.nn.Module`并实现`forward`方法： ```python class CustomLoss(nn.Module): def forward(self, pred, target): return torch.mean((pred - target)**2 + 0.1 * torch.abs(pred)) ``` --- #### **Git** **问题1：`git merge`与`git rebase`的区别** - `merge`保留分支历史，生成合并提交 - `rebase`将当前分支提交“移植”到目标分支，历史线性更清晰[^2] **问题2：如何撤销最后一次提交？** ```bash git reset --soft HEAD~1 # 保留修改 git reset --hard HEAD~1 # 彻底删除 ``` --- #### **Hugging Face Transformers** **问题1：如何用BERT做文本分类？** 加载预训练模型并添加分类头： ```python from transformers import BertTokenizer, BertForSequenceClassification model = BertForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2) tokenizer = BertTokenizer.from_pretrained('bert-base-uncased') ``` --- #### **RAG（检索增强生成）** **问题：解释RAG的工作原理** RAG结合检索器（从外部知识库获取文档）与生成器（如GPT），生成答案时引用检索结果，提升事实准确性[^3]。 --- #### **LoRA** **问题：LoRA如何实现参数高效微调？** 通过低秩分解，在原始权重矩阵旁添加适配器层，仅训练秩分解矩阵$W=W_0 + BA$，其中$B \in \mathbb{R}^{d \times r}$, $A \in \mathbb{R}^{r \times k}$，参数量远小于全参数微调[^4]。 --- #### **LangChain** **问题：LangChain的核心功能是什么？** 提供模块化组件（文档加载、链式调用、记忆管理）和预定义链（如QA链），支持快速搭建基于LLM的应用。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值