3.21迁移学习+模型加载

迁移学习能有效利用预训练模型,即使在小数据集上也能得到理想效果。常见方式包括加载权重后训练所有参数或仅训练最后几层。示例中展示了如何在ResNet34模型上修改最后一层全连接层并加载state_dict进行模型复用。
摘要由CSDN通过智能技术生成

迁移学习

好处:

能快速训练出一个理想的效果。
当训练的数据集比较小时也能训练出理想的效果。

方式:

  1. 载入权重后训练所有参数
  2. 载入权重后只训练最后几层参数
  3. 载入权重后在原有网络基础上再添加一层全连接层,仅训练最后一个全连接层。
net = resnet34()#这里不把num_classes写5
net.to(device)
model_weight_path = "./resnet34-pre.pth"
net.load_state_dict(torch.load(model_weight_path))
inchannel = net.fc.in_features
net.fc = nn.Linear(inchannel,5)

直接将最后一层全连接层的输出修改???

resnet

import torchvision.models.resnet

再点resnet就能进入官方实现的的resnet.py
感觉和那个stablenet里的resnet文件差不多。

torch.save()

resnet34 = torchvision.models.resnet.resnet34(pretrained=True)

1保存模型结构+模型参数:

torch.save(resnet34, './resnet34.pth')
#加载
model = torch.load('resnet34.pth')
print(model)
>>打印的是模型结构

2只保存模型参数:(较小,官方推荐)

torch.save(resnet34.state_dict(), './resnet34-pre.pth')
#加载
resnet34 = torchvision.models.resnet.resnet34(pretrained=True)
resnet34.load_state_dict(torch.load('resnet34-pre.pth')
#torch.load('resnet34-pre.pth')如果print的话是一个含有模型参数的字典

torch.load()

torch.load(model_weight_path, map_location=‘cpu’)
map_location参数的意思是如果你在gpu上训练保存的模型,而在cpu上加载,就得用到这个。

model = torch.load('resnet34.pth')

载入模型权重

net = resnet34()
model_weight_path = "./resnet34-pre.pth"
net.load_state_dict(torch.load(model_weight_path, map_location='cpu'))
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值