torch.nn.Linear

转载自：https://blog.csdn.net/dss_dssssd/article/details/83892824

              https://blog.csdn.net/claroja/article/details/85326633

              https://blog.csdn.net/m0_37586991/article/details/87861418

__init__(self, in_features, out_features, bias=True)

• in_features：前一层网络神经元的个数
• out_features： 该网络层神经元的个数

以上两者决定了weight的形状[out_features , in_features]

• bias: 网络层是否有偏置，默认存在，且维度为[out_features ],若bias=False,则该网络层无偏置。

接下来看一下，输入该网络层的形状(N, *, in_features)，其中N为批量处理过成中每批数据的数量，*表示，单个样本数据中间可以包含很多维度，但是单个数据的最后一个维度的形状一定是in_features.

经过该网络输出的形状为(N, *, out_features),其中计算过程为：