在PyTorch训练一个epoch时，模型不能接着训练，Dataloader卡死

最新推荐文章于 2023-12-12 12:00:53 发布
最新推荐文章于 2023-12-12 12:00:53 发布
阅读量774 收藏 4
点赞数
分类专栏： Pytorch基本知识 文章标签： pytorch 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_59023219/article/details/130922862
版权

    笔者在训练模型的时候，突然偶遇这个问题，即训练一个epoch时，模型不能接着训练，只能通过Ctrl+C强制性暂停，见下图：

    Ctrl+C之后呈现的信息表明，这个bug是和多线程有关系。

    经过笔者实验，目前有三种可靠的解决方式

    1）.Dataloader里面不用cv2.imread进行读取图片，用cv2.imread还会带来一系列的不方便，比如不能结合torchvision进行数据增强，所以最好用PIL 里面的Image.open来读图片

    2）.将DataLoader 里面的参变量num_workers设置为0，但会导致数据的读取很慢，拖慢整个模型的训练

    3）.如果用了cv2.imread，也懒得改了，那就加两条语句，来关闭Opencv的多线程：cv2.setNumThreads(0)和cv2.ocl.setUseOpenCL(False)。加了这两条语句之后，并不影响模型的训练速度，根据笔者观察，速度相反还变快了，真神奇呀。

    综上所述：如果遇到此问题，建议选择方法1和方法3来解决这个问题，因为不影响模型训练速度。

AI街潜水的八角
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
tensorflow/keras 模型搭建以及第一个epoch速度极慢的问题
西界的博客
08-17 4049
解决keras在模型搭建部分，以及第一个epoch速度极慢的问题问题描述问题分析解决方案附录：tensorflow-cuda-cudnn对应表 问题描述 使用GPU版本的keras搭建深度学习模型时，在模型顺序构造部分【从Sequential()到add()】会卡住一段时间；而在模型开始训练时，会在第一个epoch卡住相对很长的时间之后才能开始训练。 问题分析 在搜索引擎上查找，有不少人提出过相关问题，但是没有找到一个较好的解决方案。折腾了一会儿之后，猜测是 tensorflow / keras 版本的问题
PyTorch 解决Dataset和Dataloader遇到的问题
12-23
今天在使用PyTorch中Dataset遇到了一个问题。先看代码 class psDataset(Dataset): def __init__(self, x, y, transforms = None): super(Dataset, self).__init__() self.x = x self.y = y if transforms == None: self.transforms = Compose([Resize((224, 224)), ToTensor()]) else: self.transforms =
python模型训练在dataloader处卡死
my_sunshine25的博客
10-25 605
1、前一进程还未处理完，又进入下一个导致互锁：在每个Epoch后，或每2、个 batch 后暂停一下： time.sleep(0.003)；4、多进程导致互锁问题：减少进程数或者不用，num_workers=0/1。3、内存问题：使用开关，pin_memory=True/False。5、OpenCV与Pytorch互锁；6、batch size 的设置；7、查看是否存在循环；
讲解cv2.setNumThreads
牛肉胡辣汤
12-12 797
本文讲解了 cv2.setNumThreads 函数的作用和用法。通过设置并行处理的线程数目，我们可以控制 OpenCV 在图像和视频处理中使用的线程数量，从而提高程序的性能和效率。了解和正确使用 cv2.setNumThreads 函数对于优化计算机视觉应用程序的性能非常重要。希望本文能对读者理解并正确使用 cv2.setNumThreads 函数提供帮助。
pytorch在dataloader卡住
qq_41917697的博客
04-05 1993
问题描述： 程序卡死在了dataloader（），但是原本是可以跑的，中途中断了一次之后，后来就不行了。 原因分析： 这种情况应该是属于pytorch多线程锁死，大多数情况是numwork数量多于了cpu的核数。 解决方案： 1.查看CPU个数 cat /proc/cpuinfo | grep "physical id" | uniq | wc -l 2.查看CPU核数 cat /proc/cpuinfo | grep "cpu cores" | uniq numwork设置为6。 ...
Pytorch dataloader加载数据卡住
qq_41726708的博客
08-02 4221
Dataloader加载数据时卡住的解决办法
opencv3.2下的traincascade.cpp解析 setNumThreads(numThreads);
weixin_30846599的博客
04-13 729
在opencv3.2下引入cpu并行算法 setNumThreads(numThreads); 代码的作用： 高并行计算。SPE已经完成了多线程化以充分利用多核心CPU的性能. 90%以上的计算任务都可均匀地分配到任意数量的线程中去. 与单线程相比， 双线程至少能提供60%的性能提升，而四线程可以带来150%以上的性能提升。使用SPEWorld::SetNumThr...
一个pytorch的深度学习分类模型训练模板
07-23
总之，这个PyTorch深度学习分类模型训练模板是一个很好的起点，它将帮助初学者掌握深度学习模型的训练步骤，从而能够在自己的项目中灵活应用。记得不断实践和调整模型参数，以获得更好的分类性能。
Pytorch神经网络-批训练
04-18
在PyTorch中，这一过程主要涉及两个关键组件：`torch.utils.data.Dataset`和`torch.utils.data.DataLoader`。 首先，我们需要创建一个`Dataset`对象，它代表数据集并实现了数据访问的基本逻辑。在示例代码中，`...
PyTorch 模型训练实用教程
12-21
《PyTorch模型训练实用教程》是一份详细指导如何在PyTorch框架中进行深度学习模型训练的资源。PyTorch作为一款强大的开源深度学习库，以其灵活性和易用性深受开发者喜爱。本教程旨在帮助初学者和进阶者掌握在PyTorch...
用Pytorch训练CNN(数据集MNIST,使用GPU的方法)
09-18
在本文中，我们将探讨如何使用PyTorch训练一个卷积神经网络（CNN）模型，针对MNIST数据集，并利用GPU加速计算。MNIST是一个包含手写数字图像的数据集，常用于入门级的深度学习项目。PyTorch是一个灵活且用户友好的...
调用resnet预训练模型进行图片分类.zip
最新发布
01-07
在本项目中，我们将使用`torchvision`库，它是PyTorch的一个扩展，包含了预训练模型和图像数据集。 - 首先，我们需要导入必要的库，如`torch`、`torchvision`以及`torchvision.models`。然后加载预训练的ResNet模型...
pytorch使用horovod多gpu训练的实现
12-17
在PyTorch中，利用Horovod进行多GPU训练是一种高效的方法，特别是在处理大规模数据集时。Horovod是一个开源库，它使得在多个GPU或机器之间并行地执行深度学习训练变得更加简单。以下是Horovod与PyTorch集成的关键...
pytorch 准备、训练和测试自己的图片数据的方法
09-18
在PyTorch中训练和测试自己的图片数据是一个关键步骤，特别是当你处理自定义的数据集时。以下是如何使用PyTorch准备、训练和测试你自己的图片数据的详细过程： 首先，你需要整理并准备数据。在提供的例子中，作者...
PyTorch用残差网络训练 Imagenet 分类器代码.zip
08-13
在深度学习领域，PyTorch是一个非常流行的开源框架，它为构建和训练复杂的神经网络提供了便利。本项目涉及的知识点主要集中在使用PyTorch实现残差网络（Residual Networks）来训练ImageNet大规模图像分类器。 残差...
pytorch开始训练后，卡在epoch1，进度为0，怎么解决？
weixin_51795314的博客
11-15 2950
ptytorch开始训练后一直卡在这里，没有进度
pytorch中DataLoader()过程中遇到的问题
yangling1035的博客
04-12 648
pytorch中DataLoader()过程中遇到的问题
pytorch训练在最后一个batch时卡住
weixin_44126589的博客
08-01 1468
需要手动输入ctrl+c程序才可继续运行，但不稳定。
Dataloader异常卡死或报错
AI智力2岁半的博客
04-21 4257
问题描述 使用pytorch训练网络加载数据当num_workers>0时，训练一轮并验证后，训练第二轮时卡在for循环那里取不到数据。num_worders=0就没有问题。但效率慢。 pytorch 1.7.1 不报任何错误 pytorch 1.11.0 会报DataLoader worker (pid 22479) is killed by signal: Segmentation fault. 如果在pytorch 1.7.1追踪代码，发现卡在python3.7/site-packages/t
pytorch训练一个识别模型
05-11
好的，下面是一个简单的 PyTorch 训练图像分类模型的示例代码： ```python import torch import torch.nn as nn import torch.optim as optim import torchvision import torchvision.transforms as transforms # 定义数据预处理 transform = transforms.Compose( [transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))]) # 加载训练集和测试集 trainset = torchvision.datasets.MNIST(root='./data', train=True, download=True, transform=transform) trainloader = torch.utils.data.DataLoader(trainset, batch_size=32, shuffle=True, num_workers=2) testset = torchvision.datasets.MNIST(root='./data', train=False, download=True, transform=transform) testloader = torch.utils.data.DataLoader(testset, batch_size=32, shuffle=False, num_workers=2) # 定义模型 class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.conv1 = nn.Conv2d(1, 6, 5) self.pool = nn.MaxPool2d(2, 2) self.conv2 = nn.Conv2d(6, 16, 5) self.fc1 = nn.Linear(16 * 4 * 4, 120) self.fc2 = nn.Linear(120, 84) self.fc3 = nn.Linear(84, 10) def forward(self, x): x = self.pool(torch.relu(self.conv1(x))) x = self.pool(torch.relu(self.conv2(x))) x = x.view(-1, 16 * 4 * 4) x = torch.relu(self.fc1(x)) x = torch.relu(self.fc2(x)) x = self.fc3(x) return x net = Net() # 定义损失函数和优化器 criterion = nn.CrossEntropyLoss() optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9) # 训练模型 for epoch in range(5): running_loss = 0.0 for i, data in enumerate(trainloader, 0): inputs, labels = data optimizer.zero_grad() outputs = net(inputs) loss = criterion(outputs, labels) loss.backward() optimizer.step() running_loss += loss.item() if i % 2000 == 1999: print('[%d, %5d] loss: %.3f' % (epoch + 1, i + 1, running_loss / 2000)) running_loss = 0.0 print('Finished Training') # 保存模型 PATH = './mnist_net.pth' torch.save(net.state_dict(), PATH) ``` 以上代码实现了一个简单的卷积神经网络（CNN）模型对 MNIST 数据集进行分类。其中，我们使用了 PyTorch 中的 `torchvision` 模块来加载 MNIST 数据集，并对图像进行了标准化预处理。模型的训练过程中，我们使用了随机梯度下降（SGD）优化器，并在每个 epoch 完成后输出当前的损失值。最后，我们保存了训练好的模型参数到本地文件中，以供后续使用。 你可以根据自己的需求修改模型结构和超参数来训练不同的模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值