torch.nn.Parameter用法

torch.nn.Parameter 是 PyTorch 中的一个类，主要用于将张量标记为模型中可学习的参数。它是 torch.Tensor 的子类，具有一个关键特性：如果一个 Parameter 被赋值给 nn.Module 的属性，那么它会自动被添加到模型的参数列表中，这使得它在调用 model.parameters() 时可以被方便地访问和优化。

主要特点：
学习参数：将参数定义为 Parameter 的主要原因是希望其在梯度下降时可以被优化。例如，在定义一个神经网络的权重时，通常会使用 Parameter。

自动注册：当 Parameter 设置为 nn.Module 的属性时，它会自动成为模型的一部分，不需要手动将其添加到 parameters() 列表中。

与 torch.Tensor 相似：Parameter 本质上是一个 tensor，因此可以进行常规的 tensor 操作。

用法示例：
以下是一个简单的例子，展示了如何使用 torch.nn.Parameter 定义模型参数：

import torch
import torch.nn as nn

class SimpleModel(nn.Module):
    def __init__(self):
        super(SimpleModel, self).__init__()
        # 定义一个可学习的参数
        self.weight = nn.Parameter(torch.randn(10, 5))  # 10x5的权重矩阵
        self.bias = nn.Parameter(torch.zeros(5))  # 5维的偏置

    def forward(self, x):
        return x @ self.weight + self.bias  # 简单的线性变换

# 创建模型实例
model = SimpleModel()

# 获取模型参数
for param in model.parameters():
    print(param)

# 输入数据
input_data = torch.randn(1, 10)  # 1个样本，10维特征
output = model(input_data)  # 进行前向传播

结论：
torch.nn.Parameter 是定义深度学习模型时一个非常有用的工具，它使得模型的参数管理变得更加简单方便。在构建神经网络时，合理地使用 Parameter 可以帮助你更清晰地表达模型的结构和计算逻辑。