迁移学习 - 如何用预训练好的GoogLeNet搭建基于参数的迁移学习网络 - 代码实现

介绍-基于参数的迁移学习

迁移学习可以分为以下四种：
1、基于特征的迁移学习（feature-based TL）
2、基于实例的迁移学习（instance-based TL）
3、基于参数/模型的迁移学习（parameter-based TL）
4、基于关系的迁移学习（relation-based TL）
基于参数的迁移学习的实现：
本文以基于GoogLeNet的迁移学习为例
注：以下基于torch1.9.1，jupyter notebook编辑器

import torch
import torchvision
model = torchvision.models.googlenet(pretrained = True)  # 使用在ImageNet上训练好的参数
print(model)

>>>output
GoogLeNet(
  (conv1): BasicConv2d(
    (conv): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
    (bn): BatchNorm2d(64, eps=0.001, momentum=0.1, affine=True, track_running_stats=True)
  )
  (maxpool1): MaxPool2d(kernel_size=3, stride=2, padding=0, dilation=1, ceil_mode=True)
  (conv2): BasicConv2d(
  ...
  (aux1): None
  (aux2): None
  (avgpool): AdaptiveAvgPool2d(output_size=(1, 1))
  (dropout): Dropout(p=0.2, inplace=False)
  (fc): Linear(in_features=1024, out_features=1000, bias=True)
)

从输出结果的倒数第2行的out_features=1000可以看出原GoogLeNet的是1000类分类任务
图1 GoogleNet模型组成图

具体GoogleNet组成如图1所示。如果是想是想5分类，怎么办?
当时作者第一想法就是如下所示

model.fc.out_features = 5

然后测试了一下

model.fc.out_features = 5
x = torch.rand(64, 3, 128, 128)  # 模拟输入图片数据batch=64， channel=3， hight=128， width=128
y = model(x)
pring(y.shape)

>>>output
torch.Size([64, 1000])

好家伙，还是1000分类，就是说明没改过来呗

下面演示正确做法

## 重新定义Fully Connected layer
model.fc = nn.Linear(in_features=1024, out_features=5, bias=True)
x = torch.rand(64, 3, 128, 128)  # 模拟输入图片数据batch=64， channel=3， hight=128， width=128
y = model(x)
print(y.shape)

>>>output
torch.Size([64, 5])

终于可以了！！！
愉快的迁移学习吧，该方法的效果都会不错的。

欢迎关注公众号：故障诊断与python学习