pytorch——构建模型三要素与权重初始化

构建模型三要素与权重初始化

模型三要素

三要素其实很简单
必须要继承nn.Module这个类，要让PyTorch知道这个类是一个Module
在__init__(self)中设置好需要的组件，比如conv，pooling，Linear，BatchNorm等等
最后在forward(self,x)中用定义好的组件进行组装，就像搭积木，把网络结构搭建出来，这样一个模型就定义好了
我们来看一个例子：先看__init__(self)函数

def __init__(self):
 super(Net,self).__init__()
 self.conv1 = nn.Conv2d(3,6,5)
 self.pool1 = nn.MaxPool2d(2,2)
 self.conv2 = nn.Conv2d(6,16,5)
 self.pool2 = nn.MaxPool2d(2,2)
 self.fc1 = nn.Linear(16*5*5,120)
 self.fc2 = nn.Linear(120,84)
 self.fc3 = nn.Linear(84,10)

第一行是初始化，往后定义了一系列组件。nn.Conv2d就是一般图片处理的卷积模块，然后池化层，全连接层等等。
定义完这些定义forward函数

def forward(self,x):
 x = self.pool1(F.relu(self.conv1(x)))
 x = self.pool2(F.relu(self.conv2(x)))
 x = x.view(-1,16*5*5)
 x = F.relu(self.fc1(x