PyTorch模型参数量计算【使用torchsummary库与自定义 两种方法！附完整代码！！】

深度学习PyTorch模型参数量计算示例

在深度学习中，有时候处于分析模型的需要或者写文章的需要，得到模型的参数量对于理解模型复杂度、进行内存管理以及模型优化都至关重要。PyTorch作为当前流行的深度学习框架，为我们提供了计算模型参数量的工具和方法。下面将通过两个示例，详细展示如何在PyTorch中计算模型的参数量。

示例一：基础模型参数量计算

首先，我们创建一个简单的PyTorch模型，该模型包含一个卷积层、一个ReLU激活函数层和一个全连接层。然后，我们将使用PyTorch的torchsummary库来计算模型的参数量。

import torch
import torch.nn as nn
from torchsummary import summary

# 定义一个示例模型
class ExampleModel(nn.Module):
    def __init__(self):
        super(ExampleModel, self).__init__()
        self.conv1 = nn.Conv2d(3, 16, 3, padding=1)
        self.conv2 = nn.Conv2d(16, 32, 3, padding=1)
        self.fc = nn.Linear(32 * 8 * 8, 10)

    def forward(self, x1, x2, x3):
        # 处理第一个图像
        x = torch.relu(self.conv1(x1))
        x = torch.relu(self.conv2(x))
        x = x.view(-1, 32 * 8 * 8)
        x = self.fc(x)
        
        # 处理第二个图像
        y = torch.relu(self.conv1(x2))
        y = torch.relu(self.conv2(y))
        y = y.view(-1, 32 * 8 * 8)
        y = self.fc(y)
        
        # 处理第三个图像
        z = torch.relu(self.conv1(x3))
        z = torch.relu(self.conv2(z))
        z = z.view(-1, 32 * 8 * 8)
        z = self.fc(z)
        
        return x, y, z

# 创建一个示例模型实例
model = ExampleModel()

# 将模型移动到 CUDA 设备上
device = torch.device('cuda')
model.to(device)

# 模拟输入，假设每张图像大小为 3x32x32
image1 = torch.randn(1, 3, 32, 32).to(device)
image2 = torch.randn(1, 3, 32, 32).to(device)
image3 = torch.randn(1, 3, 32, 32).to(device)

# 打印模型摘要
summary(model, [(3, 32, 32), (3, 32, 32), (3, 32, 32)])  # 传递每个图像的输入大小

在上面的代码中，我们首先定义了一个简单的示例模型ExampleModel，然后使用torchsummary库的summary函数来计算模型的参数量。summary函数需要两个参数：模型实例和输入数据的形状。执行这段代码后，将会输出模型的每一层的详细信息，包括输出大小、参数量等。

示例二：自定义函数计算参数量

除了使用torchsummary库，我们还可以自定义一个函数来计算模型的参数量。这样做的好处是更加灵活，可以根据需要定制输出信息。

import torch
import torch.nn as nn

# 定义一个示例模型
class ExampleModel(nn.Module):
    def __init__(self):
        super(ExampleModel, self).__init__()
        self.conv1 = nn.Conv2d(3, 16, 3, padding=1)
        self.conv2 = nn.Conv2d(16, 32, 3, padding=1)
        self.fc = nn.Linear(32 * 8 * 8, 10)

    def forward(self, x):
        x = torch.relu(self.conv1(x))
        x = torch.relu(self.conv2(x))
        x = x.view(-1, 32 * 8 * 8)
        x = self.fc(x)
        return x

# 创建一个示例模型实例
model = ExampleModel()

# 计算模型参数大小
total_params = sum(p.numel() for p in model.parameters())
print("Total parameters:", total_params)

在这个示例中，我们定义了一个sum(p.numel() for p in model.parameters())操作，它遍历模型的所有参数，并计算需要梯度的参数的总数。numel()函数返回张量中的元素总数。最后，我们打印出模型的参数量。

总结

通过以上两个示例，我们展示了如何在PyTorch中计算模型的参数量。第一个示例使用了torchsummary库，它提供了详细的模型层信息以及参数量的统计；第二个示例则通过自定义函数来实现参数量的计算，更加灵活可控。在实际项目中，大家根据具体需求选择合适的方法来计算模型参数量，有助于更好地理解和优化模型。

版权声明

本博客内容仅供学习交流，转载请注明出处。