pytorch
Ai_Taoism
这个作者很懒,什么都没留下…
展开
-
pytorch的Backward过程用时太长?
pytorch的Backward过程用时太长?问题描述解决方案问题描述使用pytorch对网络进行训练的时候遇到一个问题,forward阶段很快(只需要几毫秒),backward阶段却用时很长(需要十多秒)。导致这个问题的原因很容易被大家忽视,而且网上基本上没有直接的解决方案,经过一天的折腾,总算把导致这个问题的原因搞清楚了。解决方案导致这个问题的原因在于训练数据的浅拷贝,由于backward过程中的梯度是和模型推理过程中的张量相关的,如果这些张量在被模型使用之前没有被深拷贝,意味着backward原创 2022-05-19 15:59:59 · 2724 阅读 · 7 评论 -
pytorch中forwod函数在父类中的调用方式
pytorch中forwod函数在父类中的调用方式问题背景问题背景最近在研究Detetron2的代码结构时,发现有些网络代码里面没有forward函数,却照样可以推理,深入挖掘之后,发现其将forword函数都写在了同一个父类里面。这就牵涉到了下面这个问题,子类中没有forward函数,只有父类中有forward函数,这样能不能正常调用网络。import torch.nn as nnclass Network1(nn.Module): def __init__(self):原创 2022-04-26 21:41:37 · 1423 阅读 · 1 评论 -
如何用pytorch选择性加载神经网络的权值
如何用pytorch选择性加载神经网络的相应层权值前言步骤前言步骤原创 2021-01-11 17:52:53 · 1029 阅读 · 1 评论 -
pytorch建立mobilenetV3-ssd网络并进行训练与预测
pytorch建立mobilenetV3-ssd网络并进行训练与预测一级目录二级目录三级目录一级目录二级目录三级目录原创 2020-12-29 11:32:49 · 3585 阅读 · 3 评论