pytorch创建data.DataLoader时,参数pin_memory的理解

参考链接: pytorch创建data.DataLoader时,参数pin_memory的理解
参考链接: What is the disadvantage of using pin_memory?
参考链接: 【pytorch】torch.utils.data.DataLoader中的pin_memory属性

pin_memory就是锁页内存,创建DataLoader时,设置pin_memory=True,
则意味着生成的Tensor数据最开始是属于内存中的锁页内存,
这样将内存的Tensor转义到GPU的显存就会更快一些。

主机中的内存,有两种存在方式,一是锁页,二是不锁页,
锁页内存存放的内容在任何情况下都不会与主机的虚拟内存
进行交换(注:虚拟内存就是硬盘),而不锁页内存在主机内存不足时,
数据会存放在虚拟内存中。

而显卡中的显存全部是锁页内存!

当计算机的内存充足的时候,可以设置pin_memory=True。
当系统卡住,或者交换内存使用过多的时候,设置pin_memory=False。
因为pin_memory与电脑硬件性能有关,pytorch开发者不能确保每
一个炼丹玩家都有高端设备,因此pin_memory默认为False。
  • 18
    点赞
  • 75
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值