Pytorch
wjn922
PhD candidate of Hongkong University
展开
-
【Pytorch】服务器Slurm上单/多GPU模型训练及保存加载
文章目录一、多GPU模型训练1、Pytorch多GPU模型训练原理2、Pytorch实现二、多GPU模型保存和加载三、Slurm命令使用四、代码Pytorch网站一、多GPU模型训练1、Pytorch多GPU模型训练原理用简单的话描述一下,以8个GPU为例。首先将模型放到主GPU上,并该模型在其余7个GPU上都复制一份;接着一个batch_size为64的数据传进来时,数据会被分为8份(每份...原创 2019-11-18 17:41:32 · 9422 阅读 · 0 评论 -
【Pytorch】tensorboardX链接
记录几个有用的tensorboardX链接https://github.com/lanpa/tensorboardXhttps://www.jianshu.com/p/46eb3004becahttp://blog.itpub.net/29829936/viewspace-2637425/https://zhuanlan.zhihu.com/p/37626738...原创 2019-10-12 11:52:43 · 130 阅读 · 0 评论