pytorch——nn.Linear()

nn.Linear()就是全连接层。

实现的操作就是：

             

import torch

x = torch.randn(128, 20)  # 输入的维度是（128，20）
m = torch.nn.Linear(20, 30)  # 20,30是指维度
output = m(x)
print('m.weight.shape:\n ', m.weight.shape)
print('m.bias.shape:\n', m.bias.shape)
print('output.shape:\n', output.shape)

# ans = torch.mm(input,torch.t(m.weight))+m.bias 等价于下面的
ans = torch.mm(x, m.weight.t()) + m.bias   
print('ans.shape:\n', ans.shape)

print(torch.equal(ans, output))

m.weight.shape:
  torch.Size([30, 20])

m.bias.shape:
 torch.Size([30])

output.shape:
 torch.Size([128, 30])

ans.shape:
 torch.Size([128, 30])

True

nn.Linear(n，s)。——>与输入相乘的权重矩阵（A^T）的形状：n*s。

nn.Linear层的输入的形状是：m*n。

nn.Linear层的输出就是m*s。