Tensorflow学习笔记(3)---CPU，GPU的调度

最新推荐文章于 2024-07-19 08:20:29 发布
最新推荐文章于 2024-07-19 08:20:29 发布
阅读量493 收藏
点赞数
分类专栏： tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hillyfighting/article/details/105546237
版权
本文介绍了如何在TensorFlow中指定CPU和GPU设备进行运算，当同时有CPU和GPU时，GPU会作为优先选择。通过设置，可以强制OP在特定设备上执行，如果指定设备不存在，TensorFlow会自动选择支持的设备。此外，文章还探讨了如何在多个GPU上构建multi-tower结构，实现TensorFlow在多GPU上的并行运行。
摘要由CSDN通过智能技术生成
  1. 使用字符串string来标识CPU设备或GPU设备：例：'\cpu:0'，'\gpu:0'
  2. 在同时拥有CPU和GPU设备时，GPU设备的使用具有优先权
  3. 记录执行op或tensor的指派设备：设置log_device_placement=True
...
with tf.Session(config=tf.ConfigProto(log_device_placement=True)) as sess:
.
最低0.47元/天 解锁文章
hillyfighting
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
GPU调度方案
Young, Simple, Naive
07-13 2071
gpu 调度方案 设置环境变量CUDA_VISIBLE_DEVICES $ deviceQuery |& grep ^Device Device 0: "Tesla M2090" Device 1: "Tesla M2090" $ CUDA_VISIBLE_DEVICES=0 deviceQuery |& grep ^Device Device 0: "Tesla M2090" 如果这一步没有生效，再尝试设置 os.environ["CUDA_DEVICE_ORDER"] = "PCI_B
机器学习笔记 - 学习使用TensorFlow和张量处理单元 (TPU) 构建图像分类模型
学以致用 知行合一
05-28 1265
这篇文章是基于kaggle官方的教程整理而来，目的是为了解并使用张量处理单元 (TPU) 创建基线模型。数据集基于木薯叶病分类竞赛的数据。我们将使用 TensorFlow 和 Keras 来构建我们的计算机视觉模型，并使用 TPU 来训练我们的模型并进行预测。 张量处理单元 (TPU) 张量处理单元 (TPU) 是专门用于深度学习任务的硬件加速器，是谷歌专门为神经网络机器学习开发的人工智能加速器 专用集成电路(ASIC) ，特别是使用谷歌......
CPU，GPU，Memory调度
吴建明wujianming_110117
08-10 1271
CPU，GPU，Memory调度 HDD&Memory&CPU调度机制(I/O硬件性能瓶颈) 图1. HDD&Memory&CPU调度图 CPU主要就是三部分：计算单元、控制单元和存储单元，其架构如下图所示： 图2. CPU微架构示意图 换一种CPU表示方法： 图3. CPU微架构示意图 从字面上，也很容易理解，上面的计算单元主要执行计算机的算术运算、移位等操作以及地址运算和转换；而存储单元主要用于保存计算机在运算中产生的数据以及指令等；控制单元则对计算机发出的指令进行
多线程任务下CPU和GPU调度速度
qq_17278169的博客
08-10 6548
背景：两个任务需要处理，所以我就分别把两个任务放在两个线程里面做。任务处理可以用GPU完成。发现使用gpu的时候的时间消耗比使用cpu的时间消耗还要大，正常情况下GPU时间消耗应该是CPU的十分之一以下。         我将两个任务不分线程做，也就是直接做在单一的一个线程里面，这个时候时间消耗就下来了。         如果多线程就是线任务是由CPU调度，那么gpu的使用也就是间接地受CPU
聊聊 Nvidia GPU——CUDA、底层硬件架构、调度策略
生活需要深度
07-15 1115
说到GPU估计大家都不陌生，但是提起gpu底层的一些架构以及硬件层一些调度策略的话估计大部分人就很难说的上熟悉了。当然这个不是大家的错，主要是因为Nv gpu的整个生态都是闭源的，所以大家了解起来就会有一些障碍。最近这半年笔者有幸参与了一些gpu的项目，在这个过程当中也花了一些时间去理了一下gpu相关的东西，故借这篇文章给大家简单介绍一下。下面的行文将基于以下三个层面进行阐述：CUDA编程模型GPU 底层硬件架构硬件层的调度策略gpu上的其他细节还有很多，笔者这篇文章就当作抛砖引玉了。
GPU线程及调度
痞子龙3D编程
08-04 2530
本节主要讲述OpenCL中的Workgroup如何在硬件设备中被调度执行。同时也会讲一下同一个workgroup中的workitem，如果它们执行的指令发生diverage（就是执行指令不一致）对性能的影响。学习OpenCL并行编程，不仅仅是对OpenCL Spec本身了解，更重要的是了解OpenCL硬件设备的特性，现阶段来说，主要是了解GPU的的架构特性，这样才能针对硬件特性优化算法。    现
GPU任务调度
HPL__001的博客
02-25 402
GPU任务调度
Tensorflow-Notebooks:我的Tensorflow笔记本。 在此笔记本中，我实现了各种模型优化技术
03-26
在本项目中，"Tensorflow-Notebooks" 是一个包含一系列使用TensorFlow实现的机器学习模型优化技术的集合。这个项目旨在提供一个实践平台，帮助开发者深入理解和掌握TensorFlow库，特别是模型训练、调优和部署相关的...
TensorFlow-similarity 学习笔记11
xxxx___sdu的博客
12-26 667
TensorFlow-similarity 学习笔记11 2021SC@SDUSC 使用 Keras 和Determined的对象检测2TensorFlow-similarity 学习笔记11介绍训练模型运行实验评估模型调整超参数结论 介绍 目标检测是计算机视觉中的一项重要任务。使用深度学习进行对象检测可以产生高度准确的模型，但开发人员也可能遇到一些挑战。首先，深度学习模型的训练成本非常高——即使使用 GPU，现代对象检测模型也可能需要数小时的计算才能从头开始训练。管理这些 GPU 并在多个 GPU 上并行
学习笔记：能用20-50个模型说明tensorflow？
kingking44的博客
04-12 1062
TensorFlow 是一个广泛应用于机器学习和深度学习的开源框架，提供了丰富的功能和工具来构建和训练神经网络模型。 先来 20 个 TensorFlow 相关的实现示例，每个示例都包含基本的调用范例：线性回归模型： 卷积神经网络（CNN）： 循环神经网络（RNN）： 生成对抗网络（GAN）： 自编码器（Autoencoder）： 预训练模型迁移学习： K-Means 聚类： **Word2Vec**： 序列到序列模型： 多层感知机（MLP）： 自定义损失函数：
GPU多任务调度
12-08
1、在cpu端使用多线程利用系统中的多gpu(如果系统中有n个gpu，可以指定任意个gpu参与计算)执行多个任务(可以是任意个)，可以自由设定任务数量和任务队列大小。2、在同一个gpu上以不同的顺序执行多个任务(每个任务可能有多个kernel函数)，并且统计不同的顺序序列，每个任务执行的时间和每个任务所有kernel执行时间；同时也可以每次执行一个任务序列。3、和2中的类似，主要实现单gpu上所有任务的kernel不同的执行序列对执行时间的影响。 以上实现的程序，主要用来考察不同的执行顺序(包括任务级和核函数级的各种不同顺序)对gpu功耗的影响，程序中部分参数怎么改、怎么添加任务，可以给我留言。
GPU与CPU
weixin_42823014的博客
12-28 465
GPU：Graphic Processing Unit“图形处理器” CPU: Central Processing Unit“中央处理器” 两者的架构区别：Control是控制器、ALU算术逻辑单元、Cache是CPU内部缓存、DRAM就是内存，GPU设计者将更多的晶体管用作执行单元，而不是像CPU那样用作复杂的控制单元和缓存。CPU芯片空间的5%是ALU，而GPU空间的40%是ALU。 GPU编程库： CUDA和OpenCL是最主流的两个GPU编程库，CUDA和OpenCL都是原生支持C/.
GPU虚拟化调度方案
最新发布
strongerHuang
07-19 114
关注+星标公众号，不错过精彩内容 来源|博文视点BroadviewGPU虚拟化调度方案无论是基于虚拟机的PCI-E设备直通，还是基于Kubernetes的Device Plugin，对GPU调度的颗粒度都是整颗GPU芯片，这样，是不能将一颗GPU芯片共享给多个应用使用的。然而，在实践中，将GPU共享给多个应用使用是很常见的需求，特别是对于推理场景，往往不需要一直使用整颗GPU芯片的算力资源。...
开源工具GPU Sharing：支持Kubernetes集群细粒度
weixin_34265814的博客
02-18 1485
问题背景 全球主要的容器集群服务厂商的Kubernetes服务都提供了Nvidia GPU容器调度能力，但是通常都是将一个GPU卡分配给一个容器。这可以实现比较好的隔离性，确保使用GPU的应用不会被其他应用影响；对于深度学习模型训练的场景非常适合，但是如果对于模型开发和模型预测的场景就会比较浪费。 大家的诉求是能够让更多的预测服务共享同一个GPU卡上，进...
Tensorflow-gpu 运行在 cpu 母机的问题
runzhliu大数据/容器日记
09-02 329
tensorflow-gpu 的镜像当然运行在 GPU 的母机上了，但是如果容器被调度到没有 GPU 的母机上呢？ # 导入 tensorflow # python -c "import tensorflow" Traceback (most recent call last): File "<string>", line 1, in <module> File "...
华为OD-GPU算力任务调度(详解）
wq985_211的博客
03-09 1023
GPU算力任务调度(详解）
GPU和CPU在一个任务中的作用分配，以及一个任务CPU负载为0的情况分析
redfishzhang64的博客
08-10 584
在音频数据处理任务中，CPU和GPU之间的协作是实现高效处理和性能提升的关键。**通过CPU和GPU的协同工作，可以提供更快速、高效的音频数据处理能力。***CPU负责控制整个计算机系统的运行，包括任务调度、数据传输、资源管理和协调各个设备之间的通信。***在音频数据处理任务中，在音频数据处理任务中，GPU（图形处理单元）和CPU（中央处理单元）可以在不同方面发挥作用，并且在处理任务时承担不同的责任。通过优化任务调度和资源管理，可以最大程度地利用服务器集群的计算资源，提高音频处理任务的效率和性能。
Linux驱动与G-Sensor学习笔记
"这篇文档是关于Linux驱动程序开发和g-sensor（加速度传感器）学习的心得体会，主要涵盖了从驱动注册到输入子系统、HAL层开发以及bma250传感器的功能描述和驱动开发步骤等内容。" 在Linux驱动开发中，`module_init`...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值