PyTorch: Tensors of the same index must be on the same device and the same dtype except `step` tenso

最新推荐文章于 2025-03-24 10:27:01 发布

Angelina馨

最新推荐文章于 2025-03-24 10:27:01 发布

阅读量2k

点赞数 5

文章标签： pytorch 人工智能 python

本文链接：https://blog.csdn.net/qq_66257231/article/details/134079251

版权

文章介绍了在PyTorch中遇到的模型运行错误，提出了解决方案：将优化器的`foreach`属性设置为`False`以及避免使用`torch.set_default_dtype(torch.float64)`，强调了`steptensor`可以是CPU和float32的情况。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在跑模型的时候出现了上述报错，有以下两个解决办法

将优化器的 foreach=False

避免使用 torch.set_default_dtype(torch.float64)

参考链接：

Tensors of the same index must be on the same device and the same dtype except `step` tensors that can be CPU and float32 notwithstanding - PyTorch Forums

参考链接2：

python - PyTorch: Tensors of the same index must be on the same device and the same dtype except `step` tensors that can be CPU and float32 notwithstanding - Stack Overflow

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Angelina馨

关注关注

5
点赞
踩
1

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

All input tensors must be on the same device

jacke121的专栏

03-31

7099

All input tensors must be on the same device RuntimeError: All input tensors must be on the same device. Received cuda:0 and cpu#18 RuntimeError: All input tensors must be on the same device. Received cuda:2 and cuda:0 pytorch在进行计算时，张量必须在同一设备，都在cp..

TypeError: can‘t convert np.ndarray of type numpy.complex128. The only supported types are: double,

tangweirensheng的博客

10-09

518

TypeError: can't convert np.ndarray of type numpy.complex128. The only supported types are: double, float, float16, int64, int32, and uint8. code： Test_data = torch.from_numpy(np.array(Test_data)).type(torch.complex64) 改 code: Test_data = torch.tenso

1 条评论您还未登录，请先登录后发表或查看评论

RuntimeError: All input tensors must be on the same device.解决方案

qian9905的博客

12-16

990

在我的代码中我遇到这种情况一般都是在torch.cat的时候。

解决yoloV7报错：indices should be either on cpu or on the same device as the indexed tensor (cpu)

wl30130611的博客

11-17

845

修改为：from_which_layer.append((torch.ones(size=(len(b),)) * i).to(device))修改为：matching_matrix = torch.zeros_like(cost, device=device)修改：from_which_layer.append(torch.ones(size=(len(b),)) * i)修改：matching_matrix = torch.zeros_like(cost)

Tensors of the same index must be on the same device and the same dtype except `step` tensors that

最新发布

weixin_45720206的博客

03-24

161

如果是一张卡微调出现这个问题可能是step dtype的问题，参考https://github.com/pytorch/pytorch/issues/127197，一般出现在torch版本较低的时候，升级torch就能解决。参考 https://github.com/pytorch/pytorch/issues/140471 ，将transformer版本降低到。

讲解All input tensors must be on the same device

牛肉胡辣汤

01-05

1598

"All input tensors must be on the same device"错误提示我们在进行深度学习计算时需要保证所有输入的张量位于同一设备上。通过移动张量至同一设备、指定默认设备、指定特定设备上的模型和优化器，以及检查设备间的数据传输，我们可以解决这个错误并成功执行深度学习计算。在上述示例代码中，我们首先检查可用的设备，并将模型及其输入数据移动到相同设备上以避免"All input tensors must be on the same device"错误。

yolov7报错 indices should be either on cpu or on the same device as the indexed tensor (cpu)解决

quyingzhe0217的博客

09-28

2234

yolov7 报错RuntimeError: indices should be either on cpu or on the same device as the indexed tensor (cpu) 解决

学习笔记：深度学习（4）——卷积神经网络（CNN）PyTorch实践篇

Morganfs的博客

04-14

4109

小白PyTorch超快上手，采用CNN做了一个手写数字识别，一个MINST手写数字预测，以及尝试了Kaggle的Spaceship Titanic案例。

3.1(PyTorch入门）Tensors(张量）

fdgdg1的博客

11-20

983

准备把PyTorch官方教程学习一下。下面是一个学习记录 #导入PyTorch库 from __future__ import print_function import torch 1.构造一个5*3矩阵，不初始化。 x = torch.empty(5, 3) print(x) #------------------------- """tensor([[4.6939e+21, 3.0946e-41, 3.3631e-44], [0.0000e+00,

pytorch nested tensor基本介绍

weixin_43969854的博客

04-04

1583

1.3) 通过创建一块连续的大buffer,将各个Tensor内存拷贝到buffer tensor, 通过nested_sizes_, nested_strides_, nested_offsets_进行信息记录,也是根据这几个信息,判断各个Tensor和buffer的连续性;调用: torch._nested_tensor_from_tensor_list(tensor_list, dtype, None, device, None)2.3.3）传入的不可以是nestedTensor。

【无标题】Pytorch 中范数求解遇到的问题之RuntimeError的解决办法，和新的范数求解语法规则

gtwaaaa的博客

04-25

2172

Pytorch 中范数求解遇到的问题之RuntimeError的解决办法，和新的范数求解语法规则

optimizer.step()处报错：RuntimeError: Expected all tensors to be on the same device, but found cuda:0

qq_44971458的博客

02-16

2357

pytorch在加载预训练模型续训时在optimizer.step()处报错：RuntimeError: Expected all tensors to be on the same device, but found cuda:0 and cpu!

报错：RuntimeError: indices should be either on cpu or on the same device as the indexed tensor (cpu)

weixin_51670564的博客

08-31

888

在深度学习中，通常数据和模型都存储在特定的设备上，例如CPU或GPU。操作张量时，确保张量和操作在同一设备上运行是很重要的。要解决这个问题，需要确保操作的张量位于相同的设备上。这通常可以通过将张量移动到正确的设备来实现。在PyTorch中，可以使用。

RuntimeError: indices should be either on cpu or on the same device as the indexed tensor (cpu)

黎国溥

04-25

2万+

在训练代码（旋转目标框检测）出现以下错误提示：RuntimeError: indices should be either on cpu or on the same device as the indexed tensor (cpu)出现这个错误通常是由于：部分在GPU上运行，部分在CPU上运行；

Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cpu!

qq_43138237的博客

07-27

2466

经过检查发现defforward内部定义了两个网络层，如上图红圈处，将这两个层定义到__init__（）中，然后在forward调用这两个层，修改后如下图。注意任何标题提示的报错都可以用下面方法的原理找出问题数据（在CPU），然后将该数据放入GPU即可。在运行bert模型时，打算将代码放到服务器的GPU上面运行，将模型和设置的参数。通过检查自己定义的所有类，发现这个类有问题。数据从cpu到gpu的迁移如下。...

错误记录帖(持续更新)

喵喵喵

10-21

1911

错误记录帖

解决RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda: