kohya_ss训练lora报错:RuntimeError: Error(s) in loading state_dict for SdxlUNet2DConditionModel

最新推荐文章于 2024-03-07 21:48:40 发布
最新推荐文章于 2024-03-07 21:48:40 发布
阅读量377 收藏
点赞数
文章标签： stable diffusion
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43103951/article/details/134534723
版权

报错截图:
在这里插入图片描述
原因是因为基模是基于SD1.5训练的,但是在khoya_ss的UI界面勾选了SDXL model导致报错:
在这里插入图片描述
取消勾选就行了

若清风⠀
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
LoRA训练脚本使用kohya-ss的训练器，用于扩散模型
08-03
LoRA训练脚本使用kohya-ss的训练器，用于扩散模型。
tensorflow conv2d的padding解释以及参数解释
lujiandong1的专栏
12-18 4万+
1、padding的方式： 说明： 1、摘录自http://stackoverflow.com/questions/37674306/what-is-the-difference-between-same-and-valid-padding-in-tf-nn-max-pool-of-t 2、不同的padding方式,VALID是采用丢弃的方式,比如上述的input_width=13,
模型加载出现问题，RuntimeError: Error(s) in loading state_dict for UNet：Missing key(s) in state_dict...
最新发布
qq_53763141的博客
03-07 751
这是因为用DataParallel训练的模型数据并行方式的，key中会包含”module“关键字。（2）去掉DataParallel 预训练model中的module(可行权重值一致)
Coursera DeepLearning Sequence Model week2 Improvise a Jazz Solo with an LSTM Network
cf的博客
03-01 51万+
Improvise a Jazz Solo with an LSTM Network Welcome to your final programming assignment of this week! In this notebook, you will implement a model that uses an LSTM to generate music. You will even b...
深度学习避坑提示：RuntimeError: Error(s) in loading state_dict for Model: Missing key(s) in state_dict
tuanzi2809的博客
02-19 9948
RuntimeError: Error(s) in loading state_dict for Model: Missing key(s) in state_dict
一份保姆级的Stable Diffusion部署教程，开启你的炼丹之路
京东科技开发者
08-02 591
市面上有很多可以被用于AI绘画的应用，例如DALL-E、Midjourney、NovelAI等，他们的大部分都依托云端服务器运行，一部分还需要支付会员费用来购买更多出图的额度。在2022年8月，一款叫做Stable Diffusion的应用，通过算法迭代将AI绘画的精细度提上了一个新的台阶，并能在以秒计数的时间内完成产出，还可以在一台有“民用级”显卡的电脑上运行。通过Stable Diffusio...
Kohya_ss Lora训练报错（RuntimeError、raise subprocess.CalledProcessError）
qq_42532602的博客
11-17 729
Kohya_ss Lora训练报错：raise subprocess.CalledProcessError(returncode=process.returncode, cmd=cmd) RuntimeError: Setting different lr values in different parameter groups is only supported for values of 0
【Bug解决】RuntimeError:Error(s)in loading state_dict for DataParallel:Missing key(s)in state_dict
学习 & 分享 ~
03-14 9516
报错信息： 原因： 加载模型参数时，关键字不匹配，原因是模型只能加载 key 完全一致的参数，可以按照下述方式解决，这样模型会跳过不匹配的参数，如果你需要完全 load 进来，就需要手动更改 model 的参数关键字名称。解决：...
秋叶Lora训练器遇到NaN detected
闪闪的红星的专栏
10-20 1960
需要在保存格式上，不要选fp16，而是选择bf16.
解决解决Error(s) in loading state_dict for *** :Missing key(s) in state_dict:Unexpected key(s) in state_
Zhe_Lin的博客
10-07 597
导致第一次错误运行时保存了之前的错误model，修改代码之后再次运行会加载原有错误的模型，导致两个模型参数不对应。解决办法就是删除你之前运行保存"pre_model_save_path"路径下的“.pt”文件，再次运行即可。
LoRA训练脚本使用kohya-ss的训练器，用于扩散模型.zip
08-08
LoRA训练脚本使用kohya-ss的训练器，用于扩散模型.zip
gateway_lora_STM32.zip_donkey8k2_gateway_lora_nodo lora
07-14
nodo lora con stm32 con codigo vuente
lora_gateway-master.zip_gateway_lora_lora 网关_lora网关
07-15
lora网关源码，官网下载，有需要的朋友可以下载看看
LORA FOR STM32_TES1.1.rar_STM32-lora_SX1276 STM32_lora_lora例程_s
07-14
LORA芯片SX1276/78的STM32例程
NLP 自然语言初体验
热门推荐
yisuoyanyv的博客
08-13 54万+
本资料整理自 Kaggle上的Spooky NLP and Topic Modelling tutorial import base64 import numpy as np import pandas as pd #Plotly imports 一种可视化工具 import plotly.offline as py py.init_notebook_mode(connected=True) ...
kohya_ss环境部署及训练
m0_46926492的博客
10-27 1926
【代码】kohya_ss环境部署及训练。
Windows11安装kohya_ss详细步骤（报错、踩坑）
fanfanfan的博客
06-05 8469
kohya_ss的快速安装，快来开启你的LoRA训练之旅吧！
『Asp.Net 组件』Asp.Net 服务器组件 内嵌CSS：将CSS封装到程序集中
ithome
10-06 4万+
代码： using System; using System.Web; using System.Web.UI; using System.Web.UI.HtmlControls; using System.Web.UI.WebControls; namespace DemoWebControl { /// <summary> /// 自己的Asp.Net服...
create LoRA network. base dim (rank): 64, alpha: 32 neuron dropout: p=None, rank dropout: p=None, module dropout: p=None create LoRA for Text Encoder: 72 modules. create LoRA for U-Net: 192 modules. enable LoRA for text encoder enable LoRA for U-Net Traceback (most recent call last): File "D:\lora_lian\sd-scripts\train_network.py", line 873, in <module> train(args) File "D:\lora_lian\sd-scripts\train_network.py", line 242, in train info = network.load_weights(args.network_weights) File "D:\lora_lian\sd-scripts\networks\lora.py", line 884, in load_weights info = self.load_state_dict(weights_sd, False) File "D:\lora_lian\python\lib\site-packages\torch\nn\modules\module.py", line 2041, in load_state_dict raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format( RuntimeError: Error(s) in loading state_dict for LoRANetwork: size mismatch for lora_unet_mid_block_attentions_0_proj_out.lora_up.weight: copying a param with shape torch.Size([1280, 128, 1, 1]) from checkpoint, the shape in current model is torch.Size([1280, 64, 1, 1]). Traceback (most recent call last): File "D:\lora_lian\python\lib\runpy.py", line 196, in _run_module_as_main return _run_code(code, main_globals, None, File "D:\lora_lian\python\lib\runpy.py", line 86, in _run_code exec(code, run_globals) File "D:\lora_lian\python\lib\site-packages\accelerate\commands\launch.py", line 1114, in <module> main() File "D:\lora_lian\python\lib\site-packages\accelerate\commands\launch.py", line 1110, in main launch_command(args) File "D:\lora_lian\python\lib\site-packages\accelerate\commands\launch.py", line 1104, in launch_command simple_launcher(args) File "D:\lora_lian\python\lib\site-packages\accelerate\commands\launch.py", line 567, in simple_launcher raise subprocess.CalledProcessError(returncode=process.returncode, cmd=cmd) subprocess.CalledProcessError: Command '['D:\\lora_lian\\python\\python.exe', './sd-scripts/train_network.py', '--config_file', 'D:\\lora_lian\\toml\\autosave\\20230709-112914.toml']' returned non-zero exit status 1. Training failed / 训练失败
07-10
根据错误消息，训练失败的原因是模型加载权重时发生了大小不匹配的错误。具体来说，`lora_unet_mid_block_attentions_0_proj_out.lora_up.weight` 的形状在当前模型中为 `torch.Size([1280, 64, 1, 1])`，但从检查点加载的权重形状为 `torch.Size([1280, 128, 1, 1])`，导致了大小不匹配的错误。 要解决这个问题，你可以尝试以下几个步骤： 1. 检查训练脚本中是否指定了正确的模型配置和权重文件。确保使用的权重文件与当前模型兼容，并且没有发生错误或损坏。 2. 确保使用相同版本的训练脚本和权重文件。不同版本之间的模型结构可能会有所不同，导致加载权重时发生大小不匹配的错误。 3. 如果你有其他可用的权重文件，可以尝试加载它们，看看是否能解决问题。有时候，使用不同的预训练权重可以解决加载错误的问题。 4. 如果以上步骤都没有解决问题，你可能需要检查训练脚本和模型代码中的网络结构定义，确保它们一致。可能存在某个部分定义的网络结构与加载的权重文件不匹配的情况。 如果问题仍然存在，你可以尝试向开发者或相关社区寻求帮助。提供更多详细的信息，如完整的错误消息、使用的软件版本等，有助于其他人更好地帮助你解决问题。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值