nvidia显卡的Exclusive Process模式

最新推荐文章于 2023-10-22 22:36:44 发布
最新推荐文章于 2023-10-22 22:36:44 发布
阅读量9.4k 收藏 9
点赞数 3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/boyStray/article/details/89048194
版权

利用nvidia显卡GPU进行神经网络训练的时候，可以使用Exclusive  Process模式来提高效率。表示只能运行一个计算进程独占GPU。

使用nvidia-smi命令设置GPU的Compute Mode为Exclusive  Process（老版本的cuda还有Exclusive  Thead，已经废掉了）

sudo nvidia-smi -c 3

怎么看现在GPU有没有计算进程，需要用nvidia-smi命令，在processes列表中看到type为C的进程就是计算进程。当有一个计算进程那么就不会让其他进程使用了。

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 418.56       Driver Version: 418.56       CUDA Version: 10.1     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 950     Off  | 00000000:01:00.0  On |                  N/A |
| 39%   45C    P0    27W / 100W |    304MiB /  1995MiB |      0%   E. Process |
+-------------------------------+----------------------+----------------------+
|   1  GeForce GTX 950     Off  | 00000000:02:00.0 Off |                  N/A |
| 51%   60C    P0    89W / 100W |   1062MiB /  2002MiB |     98%   E. Process |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|    0      1646      G   /usr/lib/xorg/Xorg                            65MiB |
|    0      2647      G   /usr/bin/gnome-shell                         140MiB |
|    0      4152      G   /usr/lib/firefox/firefox                       1MiB |
|    0      8865      G   /usr/lib/firefox/firefox                       1MiB |
|    0     13823      G   /usr/lib/xorg/Xorg                            47MiB |
|    0     21056      C   /usr/lib/libreoffice/program/soffice.bin      32MiB |
|    1     24945      C   nnet3-train                                 1050MiB |
+-----------------------------------------------------------------------------+

 

boyStray
关注
  • 3
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
使用nvidia-smi的主要关注点
KISS人生
12-12 574
使用nvidia-smi的主要关注点 以下是使用nvidia-smi命令的一个简单的显示信息： Sat Dec 12 20:21:57 2020 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 450.80.02 Driver Version: 450.80.02 CUDA Version: 11.0 | |---------------
Exclusive Bonuses-crx插件
04-05
语言:English 独家奖金是一项扩展，向您显示与Internet Marketing相关产品的最佳交易。 独家奖金是http://exclusivebonuses.co的官方扩展。我们为互联网营销产品提供奖金。
nvidia Multiple Process Service (MPS)
要努力成为很厉害很厉害的人哦
04-22 1724
What MPS is? MPS is a binary-compatible client-server runtime implementation of the CUDA API which consists of several components. Control Daemon Process – The control daemon is responsible for starting and stopping the server, as well as coordina.
GPU状态查询结果分析
MUNG~~~~~
03-11 756
cuda笔记 cuda安装 cuda 命令 nvidia-smi，简称NVSMI，提供监控GPU使用情况和更改GPU状态的功能，安装好驱动后就有。 名称 意义 GPU 0 Name GPU名称，Tesla V100 Persistence-M 持续模式状态 Fan 风扇转速（0%~100%），N/A表示没有风扇 Temp GPU温度，温度过高会导致GPU频率下降 Perf 性能状态，从P0（最大状态）到P12（最小状态） Pwr:Usage/Cap GPU功耗
NVIDIA-SMI系列命令总结
热门推荐
handsome_bear的博客
07-03 10万+
1  NVIDIA-SMI介绍         nvidia-smi简称NVSMI，提供监控GPU使用情况和更改GPU状态的功能，是一个跨平台工具，它支持所有标准的NVIDIA驱动程序支持的Linux发行版以及从WindowsServer 2008 R2开始的64位的系统。该工具是N卡驱动附带的，只要安装好驱动后就会有它。     Windows下程序位置：C:\Program Files\N...
找到了救命的东西 NVIDIA MPS (multi-process service)
weixin_30908649的博客
12-05 1065
 Available since CUDA 5.5  Formerly known as CUDA Proxy  Allows multiple CUDA processes to share a single GPU context  Pre-CUDA 4.0 APIs are not supported  Requirements  Unified Virtual Add...
test-rabbit-exclusive
07-06
使用 RabbitMQ 和 Spring Integration(Java DSL) 串行处理消息 如果您需要使用 RabbitMQ 串行处理消息，并使用一组侦听器处理消息，我见过的最好方法是在每个侦听器上使用 1 个线程处理消息的侦听器上使用标志。 独占消费者标志确保只有 1 个消费者可以从特定队列读取消息，并且该消费者上的 1 个线程确保消息被串行处理。 但是有一个问题，我稍后会讲到。 让我用基于 Spring Boot 和 Spring Integration 的 RabbitMQ 消息消费者来演示这种行为。 首先，这是使用Spring java配置建立队列的配置，注意由于这是一个Spring Boot应用，当Spring-amqp库加入依赖列表时，它会自动创建一个RabbitMQ连接工厂： @Configuration public class RabbitConfig
cuda编程（一）cuda简介
qq_43616651的博客
10-21 286
CUDA提供两层API接口，CUDA驱动（driver）API和CUDA运行时（runtime）API。GPU概念，图形处理器，也称显卡，适合进行密集数据运算，包含大量ALU计算核心。CPU概念，中央处理器，适合进行逻辑，ALU计算核心较少。4.显存带宽，运算单元与显存的传输速率，带宽越大，交换速率越大。GPU本省并不能单独计算，CPU+GPU组成异构计算架构；GPU作为CPU的协处理器，一般称为Device。CUDA支持C++，python，java。CUDA是一个软件平台，配合GPU使用。
GPU并行效率问题——通过MPS提升GPU计算收益
Dancen的专栏
02-16 3734
Nvidia针对多进程并发执行的场景推出了多进程服务解决方案-MPS，该方案可以做到空分复用。MPS的运行模式为一个MPS Server和多个MPS Client。
解决‘nvidia-smi‘ 不是内部或外部命令，也不是可运行的程序 或批处理文件
抓饭不吃皮牙子
10-22 5908
NVIDIA System Management Interface（nvidia-smi）是 NVIDIA 显卡驱动程序附带的一个命令行工具，用于管理和监控 NVIDIA GPU（图形处理器单元）。它提供了一种简单而方便的方式来查看 GPU 的状态、性能信息以及管理与配置 GPU 相关的一些功能。nvidia-smi 可以在 Windows、Linux 或 macOS 等操作系统中使用。
NVIDIA MPS总结
yc星光
08-31 1247
多进程服务（Multi-Process Scheduling）是 CUDA 应用程序编程接口（API）的替代二进制兼容实现。从 Kepler 的 GP10 架构开始，NVIDIA就引入了（基于软件的多进程服务），这种技术在当时实际上是称为，允许多个流（stream）或者 CPU 的进程同时向 GPU 发射 Kernel 函数，结合为一个单一应用程序的上下文在 GPU 上运行，从而实现更好的 GPU 利用率。在单个进程的任务处理，对 GPU 利用率不高的情况下是非常有用的。
stm32.zip_The Exclusive
09-15
The software package is and will remain the exclusive property of STMicroelectronics and its licensors. The recipient will not take any action that jeopardizes STMicroelectronics and its licensors' proprietary rights or acquire any rights in the software package, except the limited rights specified hereunder
XOR.rar_The Exclusive
09-21
This article is about XOR in the sense of an electronic logic gate (e.g. CMOS 4030). For XOR in the purely logical sense, see Exclusive disjunction. For other uses, see XOR (disambiguation).
nvidia-smi.exe nvidia-smi.exe
02-15
nvidia-sim简称NVSMI，提供监控GPU使用情况和更改GPU状态的功能，一个跨平台工具，支持标准的NVIDIA驱动程序支持的Linux和WindowsServer 2008 R2 开始的64位系统
system-exclusive
05-26
＃系统独家 安装服务器端依赖项： npm install 安装前端库/框架： bower install 运行服务器以进行本地开发： gulp serve或gulp 网站网址： ： ＃＃笔记 ###### Sysex系统独占 ###数据库结构 sysex ID 时间戳记 数据 描述 标题 用户身份 帐户->我认为用户听起来更好，但是保留名称是postgres，而复数表名显然是不好的做法 ID 时间戳记 名称 传递->作为文本存储，使用node-scrypt创建和验证哈希 电子邮件 描述 头像 功能 Http 网址 行动 创造 邮政 / api / v1 / sysex 创建单个sysex。 读 得到 / api / v1 / sysex / id 获取sysex的数据。 读 得到 / api / v1 / sysex / user / user_id 获取用户
read_exclusive_semaphore
03-08
read_exclusive_semaphore
实验-三、数据库安全性(目的、要求和模板).doc
04-24
实验-三、数据库安全性(目的、要求和模板).doc
基于Docker搭建K8s集群离线包
04-24
基于Docker搭建K8s集群离线包，包含部署时所需的全部文件，可在内网环境中使用，K8s为1.23.0版本，docker为20.10.9-3版本
基于springboot+vue实现的求职招聘类型网站源代码+数据库（优质毕设项目）.zip
最新发布
04-24
基于springboot+vue实现的求职招聘类型网站源代码+数据库（优质毕设项目）.zip个人经导师指导并认可通过的98分毕业设计项目，主要针对计算机相关专业的正在做毕设的学生和需要项目实战练习的学习者。也可作为课程设计、期末大作业。包含全部项目源码、该项目可以直接作为毕设使用。项目都经过严格调试，确保可以运行！ 基于springboot+vue实现的求职招聘类型网站源代码+数据库（优质毕设项目）.zip个人经导师指导并认可通过的98分毕业设计项目，主要针对计算机相关专业的正在做毕设的学生和需要项目实战练习的学习者。也可作为课程设计、期末大作业。包含全部项目源码、该项目可以直接作为毕设使用。项目都经过严格调试，确保可以运行！ 基于springboot+vue实现的求职招聘类型网站源代码+数据库（优质毕设项目）.zip个人经导师指导并认可通过的98分毕业设计项目，主要针对计算机相关专业的正在做毕设的学生和需要项目实战练习的学习者。也可作为课程设计、期末大作业。包含全部项目源码、该项目可以直接作为毕设使用。项目都经过严格调试，确保可以运行！基于springboot+vue实现的求
SPAN_EXCLUSIVE_EXCLUSIVE
12-15
根据提供的引用内容，SPAN_EXCLUSIVE_EXCLUSIVE是Android中的一个标志，表示不包括起始和结束位置的标记。具体来说，它表示标记的起始和结束位置都不包括在标记范围内。以下是一个示例，演示如何在Android中使用SPAN_EXCLUSIVE_EXCLUSIVE标志： ```java SpannableString spannableString = new SpannableString("Hello World"); spannableString.setSpan(new ForegroundColorSpan(Color.RED), 1, 4, Spanned.SPAN_EXCLUSIVE_EXCLUSIVE); textView.setText(spannableString); ``` 在这个例子中，我们创建了一个SpannableString对象，并将其设置为“Hello World”。然后，我们使用setSpan()方法将ForegroundColorSpan对象应用于SpannableString对象的第2到第4个字符。由于我们使用了SPAN_EXCLUSIVE_EXCLUSIVE标志，因此第2个字符和第4个字符都不会被标记。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值