【学海拾贝】共享GPU和专用GPU是什么？

最新推荐文章于 2024-08-03 19:27:22 发布
最新推荐文章于 2024-08-03 19:27:22 发布
阅读量1.3k 收藏 3
点赞数 4
分类专栏： Python学习 文章标签： python 开发语言 vscode 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Q52099999/article/details/136610199
版权

共享GPU和专用GPU是什么

打开任务管理器，在性能一栏，我们可以看到

共享GPU和专用GPU内存，我比较好奇这共享GPU可不可以用呢？

上网查了一下专用GPU内存 vs 共享GPU内存 - 知乎 (zhihu.com)这个里面说到，训练时，可以使用共享GPU内存，能解决由num_works设置大于0引起的问题

但是这里的这个num_works是什么呢？他是我们在dataloader里面经常用到的

【PyTorch】Dataloader中num_works和batchsize - 知乎 (zhihu.com)

num_workers增加可以增加去读取数据的进程个数，但是也会增加cpu内存的消耗

Qodicat
关注
  • 4
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
win10任务管理器中的专用GPU内存 vs 共享GPU内存
Do more, know more, be more.
06-08 3万+
Win10任务管理器–>性能选项卡–>GPU选项下，会有专用GPU内存，共享GPU内存和GPU内存信息的使用情况。 这三种GPU内存分别指代什么呢？ 专用GPU内存 就是只能被GPU使用的内存。 对于独显，专用GPU内存就是GPU显卡上自带的内存，特点是带宽大，延迟小。 对于集显，专用GPU内存是指BIOS从系统内存中分配给集显GPU专用的内存，也称为stolen memory。 共享GPU内存 就是GPU(s)和其他应用可以共享的系统内存，其中，GPU的使用优先级最高。 受PCIe限.
共享GPU内存，专用GPU内存，及 UMA统一内存架构
Gloamirror的博客
12-21 4045
专用GPU内存是指安装在图形处理单元（GPU）上的内存。这种内存是专门为GPU设计的，通常是GDDR类型（如GDDR5、GDDR6），专为高速图形处理优化。
【杂项】任务管理器的专用GPU内存和共享GPU内存
zcw1234515的博客
04-20 7261
知乎转载，学习记录！ https://zhuanlan.zhihu.com/p/36575387
[记录]-共享gpu和专用gpu的区别
weixin_42343912的博客
11-28 1617
据说共享gpu是从系统内存中划分一半出来的，模型训练时要想真的加速训练，只有专用gpu那部分才是起作用的。只有在专用gpu不够用时才会用到共享gpu，共享gpu的速度很慢。
Window系统显存不足时利用共享内存继续运行
pengxiang1998的博客
12-24 5424
然而不幸的是，在使用了这种方式运行后，其虽然相当于扩充了显存，能够保证模型正常运行，但这也会造成运行速度大大减慢，博主在自己的程序上进行测试，速度差了十倍不止。当然本身使用自己的笔记本完成所有实验也不太现实，因此这个方法能够帮助我们在本地调试程序就已经很不错了。
广播稿-学海拾贝、保护环境-1页.pdf
11-20
广播稿-学海拾贝、保护环境-1页.pdf
大数据时代是什么意思.pdf
12-24
⼤数据时代是什么意思 ⼤数据时代是什么意思 世界包含的多...但释放这种能量，需要严谨的数据治理、富 有洞见的数据分析和激发管理创新的环境(Ramay yaKrishnan,卡内基·梅隆⼤学海因兹学院院长)。2、⼤数据是信息产业
20210208-华安证券-“学海拾珠”系列之三十：有多少分析师建议是有价值的？.pdf
04-08
20210208-华安证券-“学海拾珠”系列之三十：有多少分析师建议是有价值的？.pdf
“学海拾珠”系列之三十：有多少分析师建议是有价值的？.rar
09-09
在IT行业中，数据分析和业务分析扮演着至关重要的角色。分析师们通过收集、处理和解读大量数据，为企业决策提供有价值的洞察。然而，面对众多分析师的建议，我们不禁要问：究竟有多少分析师的建议是真正有价值的？这...
CUDA——了解和使用共享内存
08-06
如何充分利用本地多处理器内存资源，如共享内存、常量内存，以及寄存器。
学海软件.doc
06-30
根据给定文件的部分内容，我们可以总结出以下几个关键知识点： ### 1. 计算指令执行时间的方法 在计算指令 `x=3*a` 的...以上是对给定文档中提及的知识点的详细解释和扩展，希望能帮助读者更好地理解和掌握相关内容。
实验室多人共享GPU服务器搭建指南（更新ing）
qq_44428729的博客
09-18 3656
操作系统 Ubuntu 20.04 LTS系统挂盘：SSD （2×960GB）为Raid1、STAT（2×10T）为Raid0linux安装nvidia驱动必备（实验室GPU服务器交货时已安装驱动）
GPU内存不够用怎么办？（5分钟扩充显存到32GB）
RAFA_CHANG的博客
02-16 1万+
为什么需要swap? 在我使用TENSORFLOW期间，我发现我16GB内存不够用，交换 内存可以将存储空间的一部分用于内存使用。该方法在jetson xavier上实测有效。 开始 -$ df -h This will show your file system and how much space you have left. -$ sudo fallocate -l 8.0G /sw...
GPU共享内存小结---pycuda
YellowYi的博客
10-26 1万+
先来点题外话，由于导师的要求使用GPU加速但是又没有系统的学习就开始了使用pycuda进行GPU的编程，变用边学。 在优化程序的时候shared memory是必用的，所以理解共享内存是个什么东西才可以做到自己对数据是如何跑的有数。 先看看这张GPU的存储结构图（偷的图，哈哈^_^）： 在图中我们关心的重点是，每一个block都对应的一个shared memory，线程块之可以相互交流通...
深度学习笔记：windows+tensorflow 指定GPU占用内存（解决gpu爆炸问题）
去向前方的博客
07-05 1万+
目录 目录 前言 一、指定显卡 二、限制GPU用量 1、设置使用GPU的百分比 三、指定GPU并且限制GPU用量 指定第一块GPU可用 前言 最近在使用深度学习，跑了一个大的model，然后GPU炸了，上网搜索了一下如何解决这个问题，做下笔记，分享给大家。 keras在使用GPU的时候有个特点，就是默认全部占满显存。 这样如果有多个模型都需要使用GPU跑的话，那么限制是很大...
深入浅出聊优化：从Draw Calls到GC
weixin_34396902的博客
02-13 2288
前言： 刚开始写这篇文章的时候选了一个很土的题目。。。《Unity3D优化全解析》。因为这是一篇临时起意才写的文章，而且陈述的都是既有的事实，因而给自己“文（dou）学（bi）”加工留下的余地就少了很多。但又觉得这块是不得不提的一个地方，平时见到很多人对此处也给予了忽略了事，需要时才去网上扒一些只言片语的资料。也恰逢年前，寻思着周末认真写点东西遇到节假日没准也没什么人读，所以索性就写了这篇临时的...
gpu cpu 共享内存 提高传输速度_GPU到底如何做到这么快的？
weixin_31437777的博客
11-27 1882
HPC沿Nvidia CUDA-GPU架构走。 从零到如今。> Photo by Rafael Pol on Unsplash有人将机器学习定义为数学(算法)，工程学(高性能计算)和人类能力(经验)之间的完美融合。 因此，这些领域中的任何进展都将有助于机器学习的发展。 今天是HPC的转折点，特别是我们在谈论GPU的进步。Nvidia刚刚宣布了基于Ampere架构的Geforce RTX 30...
GPU 命令行释放内存
热门推荐
nwpuxhld
12-21 4万+
我们在使用tensorflow+pycharm 写程序的时候,　有时候会在控制台终止掉正在运行的程序，但是有时候程序已经结束了，nvidia-smi也看到没有程序了，但是ＧＰＵ的内存并没有释放，那么怎么解决该问题呢？ 首先执行下面的命令 sudo fuser -v /dev/nvidia* #查找占用GPU资源的PID 因为我们只有一块显卡，所以显示如下图所示: 可以看到我们的nvidia0上还有一
Python爬虫与MongoDB的完美结合
最新发布
weixin_52392194的博客
08-03 781
我们掌握了在Windows和Linux系统下安装MongoDB，设计适合爬虫存储数据的写入规范，并通过实际爬虫示例展示了如何将爬取到的数据存储到MongoDB中。此外，还进行了MongoDB性能优化，提高了数据存储和查询的效率。
介绍一下Guix System
03-25
Guix System是一个GNU/Linux发行版，基于GNU Guix构建，它使用类似于Nix的函数式包管理系统来构建和部署操作系统。它提供一组完整的操作系统软件包，包括GNU Coreutils、Emacs、GCC、GNOME等。这些包都是由Guix包管理器构建和管理的，因此它们是可重复构建的，遵循功能性编程理念，使得操作系统的维护和升级变得更加简单易用。Guix System还支持容器化和虚拟化，并支持多种硬件平台。 关键特点： 1. 函数式的包管理系统 2. 可重复构建的软件包 3. 支持容器化和虚拟化 4. 多种硬件平台的支持
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值