PyTorch 随机数生成占用 CPU 过高

最新推荐文章于 2024-07-10 02:09:56 发布
最新推荐文章于 2024-07-10 02:09:56 发布
阅读量2.3k 收藏 2
点赞数 3
分类专栏： pytorch 文章标签： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a463560470/article/details/82985905
版权

PyTorch 随机数生成占用 CPU 过高

今天在使用 pytorch 的过程中，发现 CPU 占用率过高。经过检查，发现是因为先在 CPU 中生成了随机数，然后再调用.to(device)传到 GPU，这样导致效率变得很低，并且CPU 和 GPU 都被消耗。

查阅PyTorch文档后发现，torch.randn(shape, out)可以直接在GPU中生成随机数，只要shape是tensor.cuda.Tensor类型即可。这样，就可以避免在 CPU 中生成过大的矩阵，而 shape 变量是很小的。因此，下面的代码就可以进行这种操作了。

noise = torch.cuda.FloatTensor(shape) if torch.cuda.is_available() else torch.FloatTensor(shape)
torch.randn(shape, out=noise)
shengy1994
关注
  • 3
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
pytorch cpu占用较高
jacke121的专栏
02-16 1万+
法一、torch.set_num_threads(int thread) （亲测比较有效） 法二、exportOMP_NUM_THREADS=1 （未测） PyTorch 随机数生成占用 CPU 过高 今天在使用 pytorch 的过程中，发现 CPU 占用率过高。经过检查，发现是因为先在 CPU 中生成了随机数，然后再调用.to(device)传到 GPU，这样导致效率变得...
第五章（1）：词嵌入进阶之Glove模型讲解与pytorch实现
安静到无声
07-17 626
在自然语言处理领域，"GloVe"指的是Global Vectors for Word Representation（全局向量词表示）的缩写。该模型是一种用于将单词表示为向量的技术，它旨在将语义上相关的单词捕捉到同一向量空间中。GloVe模型的核心思想是利用大量的语料库数据，通过计算共现矩阵来建立单词之间的联系。共现矩阵记录了在相邻的上下文窗口中，每对单词出现在一起的频率。通过对这个共现矩阵进行数学处理，GloVe模型可以得到每个单词的词向量表示。
PyTorch 随机数生成占用 CPU 过高的解决方法
09-18
今天小编就为大家分享一篇PyTorch 随机数生成占用 CPU 过高的解决方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
PyTorch清理CPU缓存
最新发布
weixin_42062204的博客
07-10 68
PyTorch清理CPU缓存在使用PyTorch进行深度学习任务时，我们经常需要处理大量的数据和模型参数。然而，长时间的训练和计算可能导致CPU缓存中的数据堆积，从而影响性能和内存使用。因此，我们需要学会如何清理CPU缓存以优化我们的代码和系统。为什么要清理CPU缓存？在PyTorch中，Tensor是最基本的数据类型，它...
解决PyTorch程序占用较高CPU
qq_41657873的博客
06-11 2586
在使用服务器运行PyTorch程序时，使用TOP命令查看CPU状态，发现CPU占用率竟然达到2000%，已经影响到其他人正常使用服务器。 解决办法： 在main程序中加以下命令： torch.set_num_threads(1) 设置最多使用1个CPU核。问题解决~ ...
pytorch 自定义forward loss运算cpu占用高 在gpu上加速
菜狍的博客
07-11 1417
直接在gpu上定义tensor而减少cpu到gpu的copy!!!为了实现复杂的网络结构和损失函数，自定义forward和loss的计算，发现cpu占用很高，挂了几个训练就占满了所有cpu。 把运算都用放到gpu上运算，发现还是cpu占用高，并且有更慢的趋势。用性能分析工具分析发现是 cpu占用时间率高。为了验证是使用了导致的，编写了程序，对比和直接定义，发现时gpu利用率接近100%，而gpu利用率还不到20%。直接在gpu上定义变量...
释放pytorch占用的gpu显存_pytorch程序异常后删除占用的显存操作
weixin_39736934的博客
12-20 5656
pytorch程序异常后删除占用的显存操作1-删除模型变量del model_define2-清空CUDA cachetorch.cuda.empty_cache()3-步骤2(异步)需要一定时间，设置时延time.sleep(5)完整代码如下：del stylertorch.cuda.empty_cache()time.sleep(5)以上这篇pytorch程序异常后删除占用的显存操作就是小编分...
python pth文件是什么_嫌python慢？来这里用pytorch C++前端推理模型
weixin_39788051的博客
11-21 385
本文面向对象是立足于工业应用领域的AI学习者，希望学以致用的同学们可以深入看这篇文章，我一直认为学而不用就是搞八股文，现实中很多模型很fancy指标很溜但实际上是根本用不了的.很多时候python用来训练模型很方便的，但是用来推理就显得捉襟见肘了. 其实在我看来，慢不是python的问题，各种乱七八糟的脚本才是最大的烦恼之处。相比之下，我更希望我们的人工智能网络模型能够以一个二进制文件的形式运行。...
pytorch训练CPU占用持续增长（bug）
zyr_freedom的博客
06-22 1144
torch中cpu内存持续增长
pytorch模型训练加速（dataload耗时较大，gpu等cpu）
凡士林的博客
05-10 2688
pytorch网络训练gpu算力利用率忽高忽低。发现是dataload耗时较大,gpu等cpu。 解决方案：采用MultiEpochsDataLoader 和 CudaDataLoader （异步预先将数据从cpu加载到gpu中）进行加速
pytorch训练占用cpu过高，num_works和set_num_threads设置均无效，发现是数据扩增的问题
qq_27095227的博客
10-12 5581
这是我使用pytorch训练模型的时候，出现cpu占用过多的情况，无关pytorch版本 dataloader的num_work=1的时候 单线程cpu占用量2800，也就是一半的cpu，我服务器一共28*2个逻辑cpu dataloader的num_work=8的时候 8个线程cpu占用500-700，合计2800 使用网上教程的如下指令，没有任何效果 cpu_num = 1 os.environ["OMP_NUM_THREADS"] = str(cpu_num) os.env
Pytorch运行过程中解决出现内存不足的问题
热门推荐
weixin_45913084的博客
03-15 2万+
1. 前提 利用Transformer模型进行O3浓度的反演 2. 问题 2.1 速度慢 一开始模型是在CPU上面跑的，为了加快速度，我改成了在GPU上跑 方法如下： 1、验证pytorch是否存在GPU版本 在Pycharm命令行输入 import torch print(torch.cuda.is_available) # 若输出为True,则存在GPU版本 # 若输出为False,则不存在GPU版本 我的输出为True，说明pytorch是存在GPU版本的 2、将模型从CPU版本转换到GPU版本
Pytorch如何切换 cpu 和 gpu 的使用
qq_42549774的博客
02-27 1万+
前言，在pytorch中，当服务器上的gpu被占用时，很多时候我们想先用cpu调试下代码，那么就需要进行gpu和cpu的切换。 方法1：x.to(device) 把 device 作为一个可变参数，推荐使用argparse进行加载： 使用gpu时： device='cuda' x.to(device) # x是一个tensor，传到cuda上去 使用cpu时： device='cpu' x.to(device) # x是一个tensor，传到cuda上去 方法2：使用x.cuda()+C.
深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且模型训练速度很慢的问题总结与分析
qq_41568188的博客
06-02 5737
在深度学习模型训练过程中，在服务器端或者本地pc端，输入nvidia-smi来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util），然后采用top来查看CPU的线程数（PID数）和利用率（%CPU）。往往会发现很多问题，比如，GPU内存占用率低，显卡利用率低，CPU百分比低等等。接下来仔细分析这些问题和处理办法。** GPU内存占用率问题 这往往是由于模型的大小以及batch size的大小，来影响这个指标。当你发下你的GPU占用率很小的时候，比如40%，70%
pytorch 基本操作 生成随机数Tensor的方法汇总（标准分布、正态分布……）
jialibang的博客
04-20 5393
转载自：https://zhuanlan.zhihu.com/p/31231210在使用PyTorch做实验时经常会用到生成随机数Tensor的方法，比如：torch.rand()torch.randn()torch.normal()torch.linespace()在很长一段时间里我都没有区分这些方法生成的随机数究竟有什么不同，由此在做实验的时候经常会引起一些莫名其妙的麻烦。所以在此做一个总结，...
pytorch生成随机数
03-29
在Pytorch中生成随机数可以使用torch.rand()函数。该函数会返回一个张量，张量中的每个元素都是在[0,1)之间的随机数。 示例代码： ```python import torch # 生成一个形状为(2,3)的随机张量 x = torch.rand(2,3) ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值