代码小结（4.11）

1.torch.nn.Variable()

  其中不仅包含了data，还包含了grad,grad_fn.

关于Variable

2.model.train()和model.eval()

model.train()训练时启用Batch Normalization和Dropout。

model.eval()在验证集和测试集上不启用Batch Normalization和Dropout。

model.train()和model.eval()

3.torch.optim.Adam()

torch.optim.Adam方法参数

4.torch.nn.LSTM()和torch.nn.GRU()

LSTM和GRU

5.torch.nn.Parameter()

  将Tensor类型转化为可训练的参数类型Parameter，并将这个Parameter类型绑定到model上。

torch.nn.Parameter()

6.torch.nn.Conv2d()

  卷积核个数决定了输出的深度；卷积层的前一层，有多少个特征图，卷积核的通道就有多少个。

torch.nn.Conv2d()

7.torch.nn.ModuleList()

  类似于一个list类型，可以添加和移除元素，只不过其中的元素是模型的子类。

torch.nn.ModuleList()