训练神经网络时,batchsize的设置方法,以达到GPU算力的充分利用

先在窗口转路径 cd C:\Program Files\NVIDIA Corporation\NVSMI   然后输入指令nvidia -smi 就会显示图右侧的信息框,那里可以看到显卡总显存和正在占用的显存数值。

此外,更直接的方法就是到任务管理器 -> 性能 -> GPU0 -> 专用GPU内存,就可以看到总显存及实时占用显存。

注:batchsize大小与网络复杂程度负相关,也即不同网络在相同batchsize下会占用的显存数量是不同的。

如图:以我跑的mtcnn为例。跑O网络,batchsize=2000时就占用了10G的显存(我2080ti总共11G显存);但跑R网络部分,batchsize=10000时才占用不到10G的显存。所以,根据占用的情况逐渐增加批次,直到充分利用了显存就好了。

  • 3
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值