小白学Pytorch系列--Torch.nn API Linear Layers(10)

Pytorch中的线性与双线性层(nn.Identity,nn.Linear,nn.Bilinear,nn.LazyLinear)

最新推荐文章于 2025-11-14 17:03:14 发布

原创最新推荐文章于 2025-11-14 17:03:14 发布 · 294 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #人工智能 #python

PyTorch框架专栏收录该内容

52 篇文章

订阅专栏

该文介绍了Pytorch中几个关键的神经网络层：nn.Identity作为一个无操作的占位符，nn.Linear执行基本的线性转换，nn.Bilinear则用于双线性转换，而nn.LazyLinear是线性层的一种延迟初始化版本。通过示例展示了各层如何处理输入数据并返回相应输出的形状。

小白学Pytorch系列–Torch.nn API Linear Layers(10)

方法	注释
nn.Identity	不区分参数的占位符标识操作符。
nn.Linear	对传入数据应用线性转换 $y=xA^T+b$
nn.Bilinear	对传入数据应用双线性转换 $y=x_1^T A x_2+b$
nn.LazyLinear	一个`torch.nn.Linear`模块，其中的特征被推断出来。

nn.Identity

>>> m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 20])

nn.Linear

对传入数据应用线性转换 $y=x A^T+b$

>>> m = nn.Linear(20, 30)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 30])

nn.Bilinear

>>> m = nn.Bilinear(20, 30, 40)
>>> input1 = torch.randn(128, 20)
>>> input2 = torch.randn(128, 30)
>>> output = m(input1, input2)
>>> print(output.size())
torch.Size([128, 40])