pytorch
文章平均质量分 73
lizi0403
这个作者很懒,什么都没留下…
展开
-
pytorch CosineAnnealingLR和CosineAnnealingWarmRestarts
pytorch CosineAnnealingLR和CosineAnnealingWarmRestarts原创 2022-08-02 12:10:16 · 4830 阅读 · 0 评论 -
torch BCEWithLogitsLoss
torch BCEWithLogitsLoss原创 2022-07-26 19:36:08 · 2130 阅读 · 0 评论 -
Pytorch 单机多GPU训练 DataParallel和DistributedDataParallel
1、原理2、实现os.environ['CUDA_VISIBLE_DEVICES'] = '2, 7' # 设置可见GPU编号# device_ids=range(torch.cuda.device_count()) # torch.cuda.device_count()=2# device_ids=[0,1] 这里的0 就是上述指定 2,是默认主gpu, 1就是7,模型和数据由主gpu分发model = Model(...)if torch.cuda.device_count.原创 2021-11-04 23:07:13 · 540 阅读 · 0 评论 -
Pytorch 梯度、求导相关
计算图、叶子节点 和 计算节点计算图:如下图所示,圆圈中的为数(Tensor或常数),方块中的为操作叶子节点:不依赖于其他数的数,即没有前驱,如图中的w,x,b计算节点:依赖于其他数计算得来的数,如图中的y张量: torch.Tensor和torch.tensor()区别:Tensor是一个类,所有tensor都是其实例,tensor()是一个函数。使用二者创建的tensor实例的默认dtype不同import torchx = torch.Tensor([2, 3]).原创 2021-11-05 19:49:25 · 473 阅读 · 0 评论 -
torch tensor 和 ndarray、list互相转化
torch tensor 和 ndarray互相转化原创 2022-07-23 14:10:49 · 3327 阅读 · 0 评论