LLAMA-factory 自制数据质量低怎么办？

已于 2024-07-10 17:57:09 修改
阅读量360 收藏
点赞数 8
文章标签： llama python 数据分析
于 2024-07-10 17:52:35 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45136311/article/details/140330689
版权

我自己从课本按照格式提取8k条数据，但是训练时，sft的loss值平均在2以上，评估指标bleu-4只有20%左右，而且epoch增加评估指标还会越低。我的数据集部分如下图所示，有没有遇到相同问题的，参数应该没啥错。因为我微调自带的数据集都没啥问题所以我感觉是自己数据质量低导致，具体也不知什么原因，希望有佬指点迷津，感谢！

Wo丶好期待
关注
基于LLaMA-Factory的微调记录
羊城迷鹿的博客
01-26 6770
由于不需要考虑多轮对话，所以history可以不要，这里采用了两种数据集的组织方式，一种是只有instruction和output，把问题作为instruction，另外一种是把问题作为input，把回答问题这一要求作为instruction。微调时一般需要准备三个数据集：一个是自我认知数据集（让大模型知道自己是谁），一个是特定任务数据集（微调时需要完成的目标任务），一个是通用任务数据集（保持大模型的通用能力，防止变傻）。测试的大模型可以使用这些，注意要下载最新版，老版的模型结构不太匹配。
11、LLaMA-Factory自定义数据集微调
Andy_shenzl的博客
09-06 1万+
针对实际的微调需求，使用专门针对业务垂直领域的私有数据进行大模型微调才是我们需要做的。因此，我们需要探讨如何在LLaMA-Factory项目及上述创建的微调流程中引入自定义数据集进行微调。alpaca和sharegpt。
如何解决训练数据样本过少的问题？如何解决类别不平衡的问题？
SQingL的博客
10-15 989
（2）对少数类进行过采样（Over-sampling）：通过增加少数类 的样本数量来平衡数据集。（3）评估指标的选择：在类别不平衡的情况下，准确率可能不 是最佳的评估指标。可以考虑使精确率（Precision）、召回率（Recall）或 F1 分数等指标，它们更能反映模型在少数类上的性能。（1）对多数类进行欠采样（Under-sampling）：通过减少多数类 的样本数量来平衡数据集。（2）通常涉及的是使用预训练模型的权重作为初始权重，然后 对模型进行微调（fine-tuning）。
Llama-factory详细基础使用说明
热门推荐
dtl6540158的博客
10-08 1万+
对于初入算法的童鞋来说，有的可能还不知道llama-factory是什么，只知道大模型用到了这个框架，这是不行的。LLaMA-Factory 是一个低代码的大规模语言模型（LLM）训练框架，它主要面向研究人员和开发者，旨在简化大型语言模型的微调、评估和部署过程。白话说就是集合了当下LLM领域各种好用的开源或者自研的框架以及工具，进行封装以及优化，简化使用方法，方便大家对大模型进行微调和评估部署等工作，降低了使用难度。包括推理框架vllm等（具体可以看官网哈，下面有地址）易用性 vs. 性能。
llama factory-train loss-函数图问题记录-疑似没收敛
yxx122345的博客
12-12 2232
Loss 的范围通常在。
LlamaFactory可视化微调大模型 - 参数详解
我码玄黄的博客
07-10 1697
是一个用于微调大型语言模型的强大工具，特别是针对LLaMA系列模型。可以适应不同的模型架构和大小。支持多种微调技术，如全参数微调、LoRA）、QLoRA）等。还给我们提供了简单实用的命令行接口。支持多cpu训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。支持混合精度训练，提高训练效率。本文不再赘述的安装过程在的webui里面，一切微调都是可视化，方便我们入手。我们可以不用了解每个参数背后的具体实现手段，但一定要知道每个参数的含义，大模型的微调不是一蹴而就，而是不断更新和优化。
快速上手！LLaMa-Factory最新微调实践，轻松实现专属大模型
月流霜的专栏
06-25 298
Yuan2.0（）是浪潮信息发布的新一代基础语言大模型，该模型拥有优异的数学、代码能力。自发布以来，Yuan2.0已经受到了业界广泛的关注。当前Yuan2.0已经开源参数量分别是102B、51B和2B的3个基础模型，以供研发人员做进一步的开发。LLM（大语言模型）微调方案是解决通用大模型落地私有领域的一大利器。基于开源大模型的微调，不仅可以提升LLM对于指令的遵循能力，也能通过行业知识的引入，来提升LLM在专业领域的知识和能力。
llama-factory一个数据微调用例
07-26
"llama-factory"是一个数据微调的工具或平台，主要与LoRa（Long Range）技术相关，这是一项低功耗广域网通信技术，常用于物联网(IoT)应用。在给定的文件列表中，我们可以看到以下几个关键文件： 1. **dataset_info....
LLama-factory包，在github上面下载的
08-21
LLama-factory包，在github上面下载的
llama-factory llama-factory llama-factory llama-factory llama-fa
06-13
llama-factory llama-factory llama-factory llama-factory llama-factory llama-factory llama-factory llama-factory
【大模型】LLaMA-Factory的环境配置、微调模型与测试
magic_ll的博客
11-26 2842
前言时常和朋友闲聊，时代发展这么快，在时代的洪流下，我们个人能抓住些什么呢。我问了大模型，文心一言是这样回答的：在快速发展的时代背景下，个人确实面临着诸多挑战，但同时也充满了机遇。尽管时代洪流滚滚向前，我们依然可以抓住一些关键要素，以实现个人成长和价值提升…（一些建议）… 记住，每个人的成长路径都是独一无二的，找到适合自己的方式并坚持下去才是最重要的。哈哈跟没回答一样，毕竟是一个开放命题，还是要落到个人的行动上的。先动起来吧，我的大模型的记录终于开始了。
数据集准备
m0_67876774的博客
06-24 2169
"第一轮指令（选填）", "第一轮回答（选填）"],["第二轮指令（选填）", "第二轮回答（选填）"]"instruction": "人类指令（必填）","system": "系统提示词（选填）","system": "系统提示词（选填）","output": "模型回答（必填）","input": "人类输入（选填）","value": "人类指令""value": "工具参数""value": "工具结果""value": "模型回答""tools": "工具描述（选填）"
【04】LLaMA-Factory微调大模型——数据准备
H66778899的博客
07-18 5732
【04】LLaMA-Factory微调大模型——数据准备
使用LlamaFactory进行模型微调：参数详解
kjzd123的博客
06-19 1万+
在使用LlamaFactory进行模型微调时，理解和合理设置各个参数至关重要。确保了输入序列的合理长度，优化了注意力机制的实现，和则通过低秩矩阵和权重更新比例来提高微调效率和效果，而和则进一步细化了模型的训练策略。通过这些参数设置，您可以在计算资源有限的情况下，充分发挥预训练模型的性能，实现高效的模型微调。如果您对这些技术感兴趣，可以尝试在自己的项目中应用，并根据实际情况进行调整和优化。
多少数据微调LLM模型才有意义？记录一次微调ChatGLM3-6B模型
YELLOWAUG的博客
05-18 2153
到底需要在什么样的场景下对大模型进行微调
LLamaFactory如何在Windows系统下部署安装训练（保姆级教程）
最新发布
m0_56181660的博客
04-29 922
本文主要简述了LlamaFactory如何在Windows系统下部署安装训练（保姆级教程）
LLaMA-Factory部署以及大模型的训练（细节+新手向）
2402_84949062的博客
04-28 1043
LLaMa-Factory支持市面上各种各样的开源大模型，并且内置多种微调方式，比如lora、full、freeze，丰富的微调参数可供调整。提供了简洁的UI界面，并且支持验证、简单对话等功能
Llama factory如何全参数微调 Qwen2.5-7B-Instruct 模型并导入Ollama推理（详细版）
本博客，博文仅代表个人操作经验，不能完全解决你的问题，仅供参考，佛系回复。
04-26 422
Ubuntu20.04Llama factoryQwen2.5-7B-Instructllama.cppH20 95GX2Llama factory如何全参数微调 Qwen2.5-7B-Instruct 模型并导入Ollama推理​1. 全参数微调（Full Parameter Fine-tuning）​​全参数微调是指对预训练模型的所有参数进行更新，通常需要较高的计算资源和显存。根据不同的数值精度（如 bf16/fp16 或 pure_bf16），显存占用会显著不同​​参数说明：​​ ​​2. 显存占用对
Deepseek自制数据集
02-10
### 创建和使用 Deepseek 自制数据集 为了创建并有效利用自定义的数据集，在构建图像-文本对 (Image-text pair) 的数据管道时，需考虑几个重要方面。对于伪标签的处理，可以采用半监督学习方法来提高模型性能[^1]。 #### 准备环境 首先确保开发环境中已安装必要的库和支持工具。以 LLaMA-Factory 项目为例，通过 Git 克隆仓库并将所需依赖项安装到本地环境中： ```bash git clone --depth 1 https://github.com/hiyouga/LLaMA-e ".[torch,metrics]" ``` 上述命令会下载指定版本的代码库，并设置好 Python 虚拟环境以便后续操作[^2]。 #### 构建数据集结构 针对特定应用场景设计合适的数据存储格式非常重要。通常情况下，图像文件夹内放置图片资源，而对应的描述性文字则保存在一个单独的 CSV 或 JSON 文件里。每一行记录应至少包含两个字段：一个是唯一的标识符用于关联图片路径；另一个则是相应的说明文案。 #### 处理与标注数据 当收集足够的原始素材之后，下一步就是对其进行预处理以及打上合适的标签。如果缺乏高质量的人工标记样本，则可以通过迁移学习或其他方式生成初步预测作为临时解决方案——即所谓的“伪标签”。这些初始猜测有助于启动训练过程，并随着迭代逐步优化直至达到满意的精度水平。 #### 集成至现有框架 最后一步是把新建立起来的数据源融入现有的工作流当中去。这可能涉及到调整配置参数、编写适配器脚本或是扩展 API 接口等功能模块。具体实现细节取决于所使用的平台和技术栈特性。 ```python import pandas as pd from PIL import Image from transformers import CLIPProcessor, CLIPModel model = CLIPModel.from_pretrained("openai/clip-vit-base-patch32") processor = CLIPProcessor.from_pretrained("openai/clip-vit-base-patch32") def load_dataset(csv_file_path): df = pd.read_csv(csv_file_path) images = [] texts = [] for index, row in df.iterrows(): image = Image.open(row['image_path']) text = row['caption'] inputs = processor(text=text, images=image, return_tensors="pt", padding=True) images.append(inputs["pixel_values"]) texts.append(inputs["input_ids"]) return {"images": images, "texts": texts} ``` 这段代码展示了如何加载一个简单的CSV格式数据集，并将其转换为适合传递给 Hugging Face Transformers 库中的 CLIP 模型的形式。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值