torch.nn 模块の全连接层

通常所说的全连接层是指一个由多个神经元所组成的层，其所有的输出和该层的所有输入都有连接，即每个输入都会影响所有神经元的输出。在 pytorch 中的 nn.Linear() 表示线性变换，全连接层可以看作是 nn.Linear() 表示线性变层再加上一个激活函数层所构成的结构。
nn.Linear() 全连接操作及相关参数如下：
torch.nn.Linear(in_features, out_features, bias=True)
参数说明如下：
in_features: 每个输入样本的特征数量
out_features: 每个输出样本的特征数量
bias: 若设置为 False，则该层不会学习偏执。默认值为 True
torch.nn.Linear() 的输入为 (N, in_features) 的张量，输出为 (N, out_features) 的张量
全连接层的应用范围非常广泛，只有全连接层组成的网络是全连接神经网络，可用于数据的分类或回归预测，卷积神经网络和循环神经网络的末端，通常会由多个全连接层组成。