QwenVL微调问题记录

最新推荐文章于 2025-08-18 08:30:00 发布
原创 最新推荐文章于 2025-08-18 08:30:00 发布 · 524 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #神经网络 #人工智能

1.多卡lora微调报错1 validation error for DeepSpeedZeroConfig进而引发torch.distributed.elastic.multiprocessing.errors.ChildFailedError:问题

解决方案：将deepspeed降级到0.14.4

2.ImportError: /root/.cache/torch_extensions/py38_cu118/fused_adam/fused_adam.so: undefined symbol: _ZN3c104cuda9SetDeviceEi

解决方案：将pytorch降级，并保持与本机cuda版本一致，我本机cuda为11.7,我安装了2.0的torch

3.oom问题

解决方案：降低max_length或者lora微调中降低秩，原来框架中秩为64

博主环境如下：

硬件：V100-32G*8

软件：ubuntu18.04

conda环境：

pydantic_core._pydantic_core.ValidationError: 1 validation error for DeepSpeedZeroConfig 解决方案
weixin_43178406的博客
08-24 17万+
本文主要介绍了pydantic_core._pydantic_core.ValidationError: 1 validation error for DeepSpeedZeroConfig解决方案，希望能对使用deepspeed的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
大模型微调1——使用LoRA微调qwen模型优化推理效果
qq_42755230的博客
10-12 2722
使用LoRA微调技术微调qwen大模型，优化大模型在逻辑推理上的回答效果。分析了其步骤，给出了其代码块。
qwenvl2.5-3b模型微调
最新发布
u012374012的专栏
08-18 1250
注意：需要将原始模型中的preprocessor_config.json 和chat_template.json拷贝到微调后模型的目录中。执行：python train_qwenvl.py。全参数微调需要更大的显存，因此可能需要降低。学习率通常比 LoRA 更小（例如。可以看出识别结果是对的。
从零开始微调阿里的qwen_vl_chat模型
weixin_51074012的博客
07-04 3255
通过这个重定向，标准错误输出和标准输出都会被写入 train.log 文件。这个脚本文件名为 finetune_lora_single_gpu.sh，通常用于单 GPU 上进行 LoRA（Low-Rank Adaptation）的微调。模型训练完会保存在output_qwen文件中，想要修改去finetune.py 脚本中修改 --output_dir参数。重定向输出的目标文件名。这里是 train.log，用于保存命令的标准输出。">"重定向符号，将命令的标准输出（stdout）重定向到文件。
Qwen-VL本地化部署及微调实践
weixin_44455388的博客
02-23 5477
我这里因为资源有限，选择的QLora形式。修改finetune/finetune_qlora_single_gpu.sh中的一些设置，其中主要修改标红部分，其他参数自己设当调整。，其中 (x1, y1) 和(x2, y2)分别对应左上角和右下角的坐标，并且被归一化到[0, 1000)的范围内. 检测框对应的文本描述也可以通过。，其中id表示对话中的第几张图片。"img_path"可以是本地的图片或网络地址。GCC版本较低导致的编译问题。对于带图像输入的内容可表示为。对话中的检测框可以表示为。
Cursor使用及接入教程（非常详细），零基础入门到精通，看这一篇就够了
Python单行客的博客
10-30 9549
Cursor使用及接入教程（非常详细），零基础入门到精通，看这一篇就够了
1张图片+3090显卡微调Qwen-VL视觉语言大模型（仅做演示、效果还需加大数据量）
进一寸有一寸的欢喜
04-23 6100
一张图微调qwen-vl
LLaMA-Factory 微调 Qwen2-VL 进行人脸情感识别
anneCoder的博客
02-20 1605
为了提升人脸情感识别的准确性和鲁棒性，本文采用LLaMA-Factory框架对Qwen2-VL大模型进行微调，以实现对人脸情感的高效识别。通过数据准备、模型配置、训练和评估等步骤，我们成功地构建了一个高效的人脸情感识别模型。在微调之前，需要配置模型参数和数据集路径。注意：上述代码中，加载模型和预测的部分被省略了，实际应用中需要使用合适的代码加载微调后的模型，并进行预测。注意：上述代码中，标签的读取部分被省略了，实际应用中需要从labels.csv等文件中读取标签信息，并添加到labels列表中。
大模型微调（一）：基于Swift框架进行自我认知微调（使用Lora微调Qwen3-8B模型）
AI~天海的博客
07-13 795
本文介绍了如何使用Swift框架对Qwen3-8B模型进行自我认知微调。首先需要下载自我认知微调数据集和SFT混合mini数据集，以及Qwen3-8B基础模型。然后使用LoRA方法进行微调，配置包括2000条通识数据和600条自我认知数据，单卡训练显存占用约22GB。微调完成后进行推理测试，模型能准确回答关于自身身份、开发者信息等问题，并展示了对复杂问题的结构化思考能力。最后可通过合并LoRA权重得到完整模型。整个流程体现了模型在保持通识能力的同时强化自我认知特性。
【手把手从零实现】Qwen2.5-VL：环境配置/功能实验（图片识别理解、目标检测、文字OCR、文档解析、视频理解）/模型微调(MS-Swift 和 LLaMA-Factory)
m0_38097087的博客
07-14 7452
Qwen2.5-VL（阿里通义千问最新视觉语言家族）在 图像理解、检测框、OCR、表格解析、视频理解 等方面给出“开箱即用”的接口，3B 模型就很能打。本博客介绍Qwen2.5-vl的使用和微调等。
可以成功Lora微调的Qwen-VL模型.zip
07-26
个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！
Python 使用千问Qwen2-VL 大模型进行训练并识别图像工程源码
12-18
Python 使用千问Qwen2-VL 大模型进行训练 coco_2014_caption 图片数据，然后进行图片识别功能源码； 1、其中包括 coco_2014_caption 图片集下载和图片数据整理，以便于 Qwen2-VL 进行训练； 2、然后使用 Qwen2-VL 读取图片数据，进行对应的训练，生成结果 checkpoint ； 3、接着读取进行 checkpoint 进行图片识别；
Qwen-VL-Chat进行Qlora微调全过程讲解
VRWanders的博客
10-03 2597
Qwen-VL-Chat大模型进行Qlora微调全流程详细讲解。包括qwen大模型部署，推理，数据集准备，微调，以及报错的解决方案。全网最详细的讲解！
Qwen-VL大模型LoRA微调、融合及部署
songyang66的博客
07-19 4491
Qwen-VL大模型LoRA微调、融合及部署
在 Linux 本地玩转大模型(二)： QwenVL Lora微调与部署的高效实践
Uestc_name的博客
05-21 1712
视觉理解能力：Qwen2.5-VL不仅擅长识别常见的物体如花、鸟、鱼和昆虫，而且在分析图像中的文本、图表、图标、图形和布局方面也非常出色。自主代理能力：Qwen2.5-VL可以直接作为视觉代理，能够进行推理并动态指导工具的使用，具备计算机和手机操作的能力。理解和捕捉长视频中的事件：Qwen2.5-VL可以理解超过1小时的视频，并且这次新增了通过定位相关视频片段来捕捉事件的能力。
多模态大模型系列｜Qwen2-VL微调实战(附完整代码)
2301_76168381的博客
01-26 1964
Lora方法，即在大型语言模型上对指定参数增加额外的低秩矩阵，并在模型训练过程中，仅训练而外增加的参数。当“秩值”远小于原始参数维度时，新增的低秩矩阵参数量很小，达到仅训练很小的参数，就能获取较好的结果。Lora论文：https://arxiv.org/abs/2106.09685官方代码：https://github.com/microsoft/LoRAHuggingFace封装的peft库：https://github.com/huggingface/peft。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2870
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
【多模态大模型教程】在自定义数据上使用Qwen-VL多模态大模型的微调与部署指南
python1234_的博客
06-18 8019
提供了这个脚本供用户实现在自己的数据上进行微调的功能，以接入下游任务。此外还提供了shell脚本减少用户的工作量。这个脚本支持 DeepSpeed 和 FSDP。
qwenvl 2b微调重排模型
05-09
以下是针对该问题的具体讨论： #### 数据集的选择与预处理 为了有效训练大规模模型，高质量的数据集至关重要。通常情况下，数据集应覆盖广泛的任务场景，并经过充分清洗以减少噪声的影响。此外，在实际应用中可能还...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

魔障阿Q

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值