pytorch的一点小窍门(2)-基本的架构搭建

在pytorch中我么如何去学着搭建一个最基本的架构呢?

一个架构的搭建分为一下几步:

1:导入常用的包:torch,torch.nn,torch.functional等

2:将要处理的数据导入,这里不得不说,pytorch现阶段支持的数据集比较少,如果你要使用的数据集不在其支持的数据集列表里,那你就要自己编写程序进行导入了,这个会在后面的章节里详说

3:网络的搭建,写一个网络类,然后内部包含两个方法:

     1》__init__()函数,这个主要是完成搭建材料的导入工作,如:self.relu = torch.nn.Relu()

     2》forward()函数,这个主要是按照顺序搭建起整个网络来,最后得到结果

4:选择要使用的损失函数类型和优化器类型

5:框架最便利也是最吸引人的自动求导大笑

1》zero_grad():将所有的参数的导数置零(为什么要置零?本人亲身试验过,如果不置零,其参数的导数会不断的累加,我们知道,我们在进行梯度下降的过程中当前的下降只用到当前的导数,下一个地点的下降是下个地点导数的事情,如果将其累加,就会出错)

2》losses.backward()这里的losses是我们使用的损失函数,对其进行反向求导

3》optim.step()这里的optim是我们选择的优化器,step是进行一步优化,也就是将我们上面back

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值