BUG总结——A6000部署+微调GLM4-9b-chat模型

已于 2024-11-08 14:34:57 修改
阅读量265 收藏 3
点赞数 2
文章标签： bug python 深度学习
于 2024-11-08 14:13:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_56747156/article/details/143624999
版权

1.在安装了basic_demo 和 fineturne_demo的工具包，执行微调指令发现如下错误

TypeError: Seq2SeqTrainer.training_step() takes 3 positional arguments but 4 were given
Exception in thread Thread-3 (_pin_memory_loop):
Traceback (most recent call last):
  File "/usr/local/lib/python3.10/threading.py", line 1016, in _bootstrap_inner
    self.run()
  File "/usr/local/lib/python3.10/threading.py", line 953, in run
    self._target(*self._args, **self._kwargs)
  File "/usr/local/lib/python3.10/site-packages/torch/utils/data/_utils/pin_memory.py", line 59, in _pin_memory_loop
    do_one_step()
 

我的解决方案：

原本transformers==4.46.2

pip install transformers==4.44.0

2.在后续微调中出现loss 为0的情况

我确定在执行过程中，使用的是bf16 

由于glm的官方提示词，无法满足本任务需要，本人重新设计了提示词。

或许是因为提示词设计的过长，导致上述问题。

即 模型一次处理的输入文本的长度上限过短，模型会截断部分输入数据，导致其无法生成有效的标签

将最大输入输出长度从512修改为1024

解决上述问题

m0_56747156
关注
开源模型应用落地-模型量化-Qwen1.5-7B-Chat-GPTQ-Int8（一）
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
05-17 1万+
理解GPTQ模型量化技术，以低成本体验大语言模型的魅力
开源模型应用落地-Qwen2-7B-Instruct-GPTQ-Int4与vllm-单机多卡-RTX 4090双卡（十二）
热门推荐
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
08-07 3万+
4090单机双卡部署vllm，并集成qwen2-7b-instruct-gptq-int4
本地部署GLM-4-9B清华智谱开源大模型方法和对话效果体验
老牛啊
06-08 2364
清华大学和智谱AI推出了全面升级的新一代基座大模型GLM-4，整体性能相比GLM3提升60%，支持128K上下文，可根据用户意图自主理解和规划复杂指令、完成复杂任务……
ChatGLM-4-9b-chat本地化｜天翼云GPU上vLLM本地部署开源模型完整攻略
08-15 1848
“拥有一个私有化的领先国产开源大模型？本文详细介绍了如何在天翼云GPU上使用vLLM部署ChatGLM-4-9b-chat本地化模型的完整攻略，助您快速上手。”01—vLLM本来打算用ollama在GPU服务器上部署开源模型GLM4，在之前文章有部署教程：《普通电脑也能跑大模型，三步搞定私人AI助手 | LLaMA-3本地部署小白攻略》。后来朋友推荐使用vLLM部署服务来运行GLM4。vLLM是...
TypeError: CPMTrainer.training_step() takes 3 positional arguments but 4 were given问题解决
NOZhengYuan的博客
03-04 425
TypeError: CPMTrainer.training_step() takes 3 positional arguments but 4 were given问题解决
GLM4 9B - 环境准备和 vllm 部署
arkohut的博客
06-06 5042
这里是视频的笔记，完整的信息请观看视频。6 月 5 日，glm 团队开源了最新的大语言模型，glm4 9b。同时，这次还直接推出了对应的多模态模型，glm-4v-9b 支持 8k 的上下文。从测评结果来看，其综合水平全面超越了 llama3 8b 的模型。这里呢，我还是先记录下环境搭建和部署的流程。
索尼A6000 ILCE-6000 升级固件 版本3.21
04-15
《索尼A6000 ILCE-6000相机固件升级至版本3.21详解》 在摄影领域，固件更新是提升设备性能和优化用户体验的重要途径。索尼A6000，作为一款备受欢迎的ILCE-6000系列微单相机，其最新发布的固件版本3.21，为用户带来...
Nvidia A6000 驱动 572.83-quadro-rtx-desktop-notebook-win10-win11-64bit-international-dch-whql.exe
最新发布
03-31
Nvidia A6000 驱动 572.83-quadro-rtx-desktop-notebook-win10-win11-64bit-international-dch-whql.exe
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[5]-高阶实战微调
丨汀、的博客
06-19 935
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[5]-高阶实战微调
超详细的glm-4微调过程和代码之最强落地经验总结
m0_71062934的博客
06-14 4237
智谱AI的GLM-4系列模型是2024年推出的新一代大型语言模型，具有显著的性能提升，接近GPT-4的水平。 GLM-4模型具备多项先进特性，包括强大的多模态处理能力和支持更长上下文输入的能力。 微调技术对于GLM-4模型尤为重要，因为它允许模型在保留广泛知识和语言理解能力的同时，学习特定场景或行业的专业语言习惯、术语和要求。 GLM-4模型提供了多种微调方法，包括LoRA、sift等轻量级微调技术，这些技术可以在不显著增加模型参数量的前提下，有效地调整模型权重以适应下游任务。
求解：TypeError: check_events() takes 3 positional arguments but 4 were given报错
qq_43396677的博客
10-18 1万+
def run_game(): # 初始化游戏并创建一个屏幕对象 pygame.init() ai_settings = Settings() screen = pygame.display.set_mode( (ai_settings.screen_width, ai_settings.screen_height)) pygame.display.set_caption(“Alien Invas...
ChatGLM4部署教程（非常详细）零基础入门到精通，收藏这篇就够了
Python_paipai的博客
11-30 1494
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，及其人类偏好对齐的版本均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。本代模型增加了多语言支持，支持包括日语，韩语，德语在内的 26 种语言。
最新开源对话大模型glm-4-9b-chat本地部署使用
不二的AI笔记
06-07 3386
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。本代模型增加了多语言支持，支持包括日语，韩语，德语在内的 26 种语言。
ChatGLM4部署教程
SJJS_1的博客
08-13 1172
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B及其人类偏好对齐的版本均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。
TypeError: xxx() takes 3 positional arguments but 4 were given
qq_40167825的博客
01-17 2453
如果在写python类的时候提示这种错误，检查函数参数数量没问题的话，有可能的原因是忘记在函数参数中写self了。
typeError: __call__() takes 2 positional arguments but 3 were given
qq_43477055的博客
11-10 3596
typeError: call() takes 2 positional arguments but 3 were given@TOC在运行python程序中出现了参数个数报错的原因。 原因： 1、类中定义的函数未设置参数self; 2、已经初始化了一个与类名相同的函数，因此再调用类时，调用了该函数而非类你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。我们对Markdown编辑器进行
使用unsloth微调deepseek-r1-8B模型，给出完整代码
02-23
<think>好的，用户想要使用unsloth来微调deepseek-r1-8B模型，并希望得到完整的代码。首先，我需要确认unsloth是否支持这个模型。unsloth主要用于优化微调过程，比如减少内存占用和加快训练速度，通常与Hugging Face的transformers库结合使用。deepseek-r1-8B可能是一个基于类似LLaMA架构的模型，所以可能需要检查是否支持。 接下来，用户可能需要代码示例，包括数据准备、模型加载、训练配置、训练过程和保存模型。需要确保步骤完整，例如安装必要的库，加载数据集，使用正确的模型名称，设置训练参数如batch size、learning rate等，以及处理可能的内存问题，比如使用4位量化。 另外，用户可能对数据格式有疑问，所以需要提供一个示例数据集的结构，比如alpaca格式。还要注意可能出现的错误，比如OOM（内存不足），这时候可能需要调整batch size或者使用梯度累积。 需要提醒用户替换数据集路径，并根据硬件调整参数，比如device_map和dtype设置。最后，保存模型并演示如何加载使用，确保代码的可运行性。 可能还需要验证代码的准确性，比如检查unsloth的最新文档，确认支持的模型类型，以及是否有额外的参数需要注意。同时，确保训练器的设置正确，比如使用Seq2SeqTrainer，因为可能是生成任务。 总结：步骤包括安装库、准备数据、加载模型和分词器、配置训练参数、训练、保存模型。需要注意模型兼容性、硬件限制和参数调整，确保用户能顺利运行代码。</think>以下是一个使用Unsloth微调DeepSeek-R1-8B模型的完整代码示例。请注意根据您的硬件调整参数（如batch_size、gradient_accumulation_steps等）： ```python # 首先安装必要库（建议使用Python 3.10+） # pip install "unsloth[colab] @ git+https://github.com/unslothai/unsloth.git" # pip install --no-deps "xformers<0.26.0" trl peft accelerate datasets bitsandbytes import torch from unsloth import FastLanguageModel from datasets import load_dataset from trl import SFTTrainer from transformers import TrainingArguments # 参数配置 max_seq_length = 2048 # 根据GPU内存调整 dtype = None # None自动检测，或指定为torch.float16/torch.bfloat16 load_in_4bit = True # 使用4位量化节省内存 # 加载DeepSeek-R1-8B模型 model, tokenizer = FastLanguageModel.from_pretrained( model_name = "deepseek-ai/deepseek-llm-7b-r1", # 确认HuggingFace模型名称 max_seq_length = max_seq_length, dtype = dtype, load_in_4bit = load_in_4bit, ) # 添加LoRA适配器（可选） model = FastLanguageModel.get_peft_model( model, r=16, # LoRA秩 target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj"], # 常见目标模块 lora_alpha=16, lora_dropout=0, bias="none", use_gradient_checkpointing=True, ) # 准备数据集（示例使用Alpaca格式） dataset = load_dataset("yahma/alpaca-cleaned", split="train") dataset = dataset.map(lambda sample: { "text": f"""Below is an instruction that describes a task. Write a response that appropriately completes the request. ### Instruction: {sample[&#39;instruction&#39;]} ### Input: {sample[&#39;input&#39;]} ### Response: {sample[&#39;output&#39;]}""" }) # 训练参数配置 trainer = SFTTrainer( model = model, tokenizer = tokenizer, train_dataset = dataset, dataset_text_field = "text", max_seq_length = max_seq_length, dataset_num_proc = 2, packing = True, # 序列打包提高效率 args = TrainingArguments( per_device_train_batch_size = 2, gradient_accumulation_steps = 4, warmup_steps = 5, num_train_epochs = 3, learning_rate = 2e-5, fp16 = not torch.cuda.is_bf16_supported(), bf16 = torch.cuda.is_bf16_supported(), logging_steps = 1, optim = "adamw_8bit", weight_decay = 0.01, lr_scheduler_type = "linear", seed = 3407, output_dir = "outputs", save_strategy="steps", save_steps=500, ), ) # 执行训练 trainer.train() # 保存微调后的模型 model.save_pretrained("lora_adapter") # 保存LoRA适配器 # model.push_to_hub("your_username/model_name") # 可选：上传到HuggingFace Hub # 使用微调后的模型生成文本 inputs = tokenizer( ["### Instruction:\nExplain deep learning in 3 sentences\n\n### Response:"], return_tensors="pt" ).to("cuda") outputs = model.generate(**inputs, max_new_tokens=128) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ``` 注意事项： 1. 硬件要求：至少需要24GB显存（建议A100/A6000等） 2. 数据集：示例使用Alpaca格式，请替换为您的实际数据集 3. 模型名称：请确认HuggingFace上的准确模型名称 4. 内存优化：如遇OOM错误，可以尝试： - 降低`per_device_train_batch_size` - 增加`gradient_accumulation_steps` - 使用`load_in_4bit=True` - 减小`max_seq_length` 建议在微调前： 1. 检查CUDA可用性：`print(torch.cuda.is_available())` 2. 验证模型加载：`print(model)` 3. 测试基本推理：先运行生成代码确保基础模型正常工作 如需完整生产级实现，建议参考： - Unsloth官方文档：https://github.com/unslothai/unsloth - DeepSeek官方微调指南：https://huggingface.co/deepseek-ai
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值