[运行diffusers报错] RuntimeError: Input type (c10::Half) and bias type (float) should be the same

最新推荐文章于 2025-05-05 18:31:56 发布

计算机视觉-Archer

最新推荐文章于 2025-05-05 18:31:56 发布

阅读量1w

点赞数 13

文章标签： pytorch 深度学习人工智能

本文链接：https://blog.csdn.net/zjc910997316/article/details/134856207

版权

报错情况

RuntimeError: Input type (c10::Half) and bias type (float) should be the same

出现问题原因

我们先生成pipeline然后读取一个vae的网上模型，然后将这个AutoencoderKL送入pipeline里面的时候就会遇到这样的问题。
因为pipe本身是half精度(float16)的，而新送进来的vae是flaot32的所以需要修改下精度

解决办法

添加.to(torch.float16)

 url = "https://huggingface.co/stabilityai/sd-vae-ft-mse-original/blob/main/vae-ft-mse-840000-ema-pruned.safetensors"  # can also be a local file
    pipe.vae=AutoencoderKL.from_single_file(url).to(torch.float16)

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

计算机视觉-Archer

关注关注

13
点赞
踩
11

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

报错处理：RuntimeError: Input type (torch.FloatTensor) and weight type (torch.cuda.FloatTensor) should...

cnjs1994的博客

04-11

4089

这篇博客解决的是pytorch训练图像分类模型中常常遇到的一个常见问题：就是模型在GPU,但是数据加载到了CPU

fatal: 无法访问 ‘https://github.com/huggingface/diffusers/‘ error: subprocess-exited-with-error

沉迷单车的追风少年

06-12

2252

安装diffuser fatal: 无法访问 ‘https://github.com/huggingface/diffusers/‘ error: subprocess-exited-with-error

参与评论您还未登录，请先登录后发表或查看评论

RuntimeError: Input type (float) and bias type (c10::Half) should be the same

qq_44224801的博客

12-08

3775

截图如下。

使用DistributedDataParallel（DDP）和混合精度时出现错误： Input type (c10::Half) and bias type (float) should be the

weixin_51371510的博客

04-17

804

使用DistributedDataParallel（DDP）和混合精度时出现错误： Input type (c10::Half) and bias type (float) should be the

RuntimeError: Failed to import transformers.models.roberta.modeling_roberta because of the following

weixin_44012667的博客

03-27

1653

升级PyTorch到1.10.0+并确保Transformers版本兼容。

RuntimeError: Input type (float) and bias type (struct c10::Half) should be the same

m0_53005872的博客

04-04

2854

封装yolov5 7.0报错 RuntimeError: Input type (float) and bias type (struct c10::Half) should be the same

【已解决】Input type (struct c10::Half) and bias type (float) should be the same

AI浩

09-12

8849

本专栏是讲解如何改进Yolov8的专栏。改进方法采用了最新的论文提到的方法。改进的方法包括：增加注意力机制、更换卷积、更换block、更换backbone、更换head、更换优化器等；每篇文章提供了一种到N种改进方法。评测用的数据集是我自己标注的数据集，里面包含32种飞机。每种改进方法我都做了测评，并与官方的模型做对比。代码和PDF版本的文章，我在验证无误后会上传到百度网盘中，方便大家下载使用。这个专栏，求质不求量，争取尽心尽力打造精品专栏！！！！！

BUG处理 Input type (c10::Half) and bias type (float) should be the same

weixin_43789676的博客

11-04

675

该修改可能会导致后续训练中出现 ValueError: Attempting to unscale FP16 gradients. 错误。注意，这种情况下不要像一些解决方案里那样直接更改模型参量，如。使用nn.ModelList替换了 list 后问题解决。对于我的情况，这个bug是由两个因素导致的。

RuntimeError: Input type (unsigned char) and bias type (float) should be the same错误

qq_54000767的博客

04-02

5890

RuntimeError: Input type (unsigned char) and bias type (float) should be the same错误

Bug | RuntimeError: Failed to import transformers.models.fnet.tokenization_fnet because of the follo

Junseer的博客

05-04

1069

RuntimeError: Failed to import transformers.models.fnet.tokenization_fnet because of the following error (look up to see its traceback): No module named 'sentencepiece'

The core API of diffusers: Pipelines, models and schedulers

01-26

Diffusers 库核心 API：Pipeline、模型和调度器 Diffusers 库是 Hugging Face 推出的一个新的库，旨在为扩散模型提供一个统一的平台。该库的核心 API 由三部分组成：Pipeline、模型和调度器。 Pipeline Pipeline...

diffusers 出现TypeError: For single controlnet: `controlnet_conditioning_scale` must be type `float`.

尘思录

04-12

1718

而pipeline_stable_diffusion_xl_instantid.py文件中的调用如下（大约在453行）测试ComfyUI-InstantID 时出现如下。

报错：ModuleNotFoundError: No module named model...如何解决？

热门推荐

罟霖同学的站点

05-11

1万+

Pytorch中DataLoader输出精度问题–“ RuntimeError: Input type (double) and bias type (float) should be the same"和“RuntimeError: expected scalar type Double but found Float”来源很简单，在使用DataLoader进行数据集读取后，得到的Batch数据通过神经网络报错，经查看是因为Pytorch中神经网络的参数默认精度是，而送入的测试数据精度是导致报错。

RuntimeError: Input type and weight type should be the same

VIEO

10-16

5783

pytorch使用GPU计算报错： RuntimeError: Input type (torch.FloatTensor) and weight type (torch.cuda.FloatTensor) should be the same 原因是，还必须将每一步的输入和目标也发送到GPU。示例：原始错误代码： ... net = Net() net.to(device) ...

（已经解决）在做深度学习分类时或者其他应用出现RuntimeError:Input type and weight type should be the same。

weixin_42042056的博客

05-08

905

RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same.已经解决显示这里有错误： model = nn.Sequential(*list(trained_model.children())[:-1], #[b, 512, 1, 1] 取前1...

RuntimeError: Input type (torch.cuda.FloatTensor) and weight type should be the same

qq_35049121的博客

01-18

3128

做神经网络的一个报错原因：输入数据和参数的数据格式不匹配，应该是数据传到了GPU上而，神经网络模型没有传输到GPU上。解决：在实例化网络后，加一条传到GPU上的代码即可。 model=DANN() # DANN是你自己搭建的神经网络,实例化神经网络 device = torch.device("cuda:" + config.gpu_id if torch.cuda.is_available() else "cpu") model=model.to(device) #传到GPU ...

关于 c10::Half 类型和float不匹配

weixin_51552032的博客

03-02

597

我在跑大模型推理的时候，遇到了上面的错误。首先有一个问题需要考虑：我希望模型可以在gpu上面推理，但是我默认了模型会自动加载到gpu上面。。。解决方法检查llama模型是不是正确加载到gpu，一半出现 c10:Half 这个类型，模型很大概率是加载到CPU上面去推理的，所以只要修改到gpu上就不会报错了模型推理的时候，记得加上autocase 最后代码因为是修改R2genGPT的，所以代码如下：

stable diffusion RuntimeError: mat1 and mat2 shapes cannot be multiplied (2x1280 and 2048x2432)

03-17

### 矩阵乘法形状不匹配的原因分析在 Stable Diffusion 的实现过程中，如果遇到 `RuntimeError: mat1 and mat2 shapes cannot be multiplied` 错误，通常是因为两个矩阵的维度不符合线性代数中的矩阵相乘规则。具体来说，在 PyTorch 或其他深度学习框架中，矩阵 A 和 B 可以相乘的前提条件是 A 的列数等于 B 的行数。当前错误提示表明第一个矩阵的大小为 \(2 \times 1280\)，而第二个矩阵的大小为 \(2048 \times 2432\)。由于这两个矩阵无法满足上述前提条件，因此会抛出运行时错误[^1]。 --- ### 解决方案以下是几种可能的解决方案： #### 方法一：检查模型权重文件确保加载的预训练权重文件与代码版本兼容。有时，不同版本之间的参数数量或结构可能会发生变化，从而导致矩阵尺寸不一致。可以尝试重新下载官方发布的最新权重文件并替换现有文件。 ```python from diffusers import StableDiffusionPipeline model_id = "runwayml/stable-diffusion-v1-5" pipe = StableDiffusionPipeline.from_pretrained(model_id) ``` #### 方法二：调整输入张量的形状验证输入数据是否经过适当处理以适应网络架构的要求。例如，某些层期望特定分辨率作为输入特征图。可以通过插值操作改变图像尺寸来修复此问题。 ```python import torch.nn.functional as F def resize_tensor(input_tensor, target_shape): resized_tensor = F.interpolate(input_tensor.unsqueeze(0), size=target_shape[-2:], mode='bilinear', align_corners=False).squeeze(0) return resized_tensor input_tensor = ... # 原始输入张量 target_shape = (2048, 2432) # 目标形状 adjusted_input = resize_tensor(input_tensor, target_shape) ``` #### 方法三：修改配置文件部分情况下，可能是由于自定义修改了模型配置而导致内部计算逻辑出现问题。建议对比原始配置文件（通常是 JSON 格式），确认所有超参数设置无误后再执行推理过程。 ```json { "hidden_size": 768, "intermediate_size": 3072, ... } ``` #### 方法四：调试中间变量通过打印每一步运算前后的张量信息定位确切发生冲突的位置，并据此采取相应措施加以修正。 ```python print(f"Matrix A Shape: {mat_a.shape}, Matrix B Shape: {mat_b.shape}") result = torch.matmul(mat_a, mat_b) ``` --- ### 注意事项无论采用哪种方法解决问题，请务必保留备份副本以防意外损坏原有项目成果；另外还需注意更新依赖库至推荐版本以免引入更多潜在隐患。