torch.nn是专门为神经网络设计的模块化接口,nn构建于autograd之上,可以用来定义和运行神经网络。
nn.module是nn中十分重要的类,包含网络各层的定义及forward方法。
若需要定义自己的网络:
(1)需要继承nn.module类,并实现forward方法
(2)一般把网络中具有可学习参数的层放在构造函数_init_()中,不具有可学习参数的层(如relu)可放在构造函数中,也可不放在构造函数中(而在forward中使用nn.functional来代替)
(3)只要在nn.module的子类中定义了forward函数,backward函数就会被自动实现(利用autograd)
(4)在forward 函数中可以使用任何variable支持的函数,毕竟在整个pytorch构建的图中,是variable在流动,还可以使用if,for,print,log等python语法
(5)pytorch 基于nn.module构建的模型中,只支持mini-batch的variable输入方式,比如一张输入图片,也需要变成N*C*H*W的形式,
input_image=torch.FloatTensor(1,28,28)
input_image=Variable(input_image)
input_image=input_image.unsqueeze(0)# 1*1*128*28
# coding=utf-8
import torch
import torch.nn as