25.迁移学习

最新推荐文章于 2023-03-31 10:45:29 发布
最新推荐文章于 2023-03-31 10:45:29 发布
阅读量140 收藏
点赞数
分类专栏： tensorflow笔记 文章标签： 神经网络 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/potato123232/article/details/120965281
版权

目录

1 预训练网络

2  代码实现

2.1  制作数据集

2.2  建立模型

2.3  编译模型

2.4  训练模型

2.5  预测模型

1 预训练网络

我们之前每次创建模型，模型自我的第一步都是初始化自己的参数，初始化的参数都是随机的，如果我们使用预训练网络，我们初始化的参数就是之前已经训练好的神经网络

keras中包含VGG16,VGG19,ResNet50,Inception v3,Xception等网络

下面这个图是VGG的六种网络结构

  • VGG16中16的意思是网络中可训练参数层(不算池化层与输出层)共有16层，VGG19中19的意思是网络中共有19层
  • FC 是指Dense层，后面的数值是该层的神经元个数，FC-4096就是4096个神经元的dense层
  • VGG 有两个大的缺点，第一是消耗磁盘空间大，第二是训练速度慢

2  代码实现

2.1  制作数据集

我们使用上一章的猫狗分类添加VGG，我们沿用创建数据集前的所有代码，我们简单看一下

2.2  建立模型

之后调用VGG网络

我们首先点进keras.applications中看一下

发现其中有很多网络，此时我们用的网络为vgg16,之后我们再看VGG16的参数

我们这里首先使用到了weights，这个参数为是否使用VGG16的权重，如果使用我们就输入'imagenet'，如果不使用，我们就输入None，第一次运行的时候权重会自动从网络上下载

这一步有可能下载失败，除了多尝试几次，我们还可以通过其他渠道先把模型下载好，之后放在 用户目录下的.keras\models中，我当前是C:\Users\MSI.keras\models，下面这两个文件是我运行代码自动下载下来的文件

nclude_top为是否使用最后的全链接层(就是上面提到的FC-4096这些)，如果使用我们就输入True，如果不使用我们就输入False，这个就得看情况，如果是我们应用场景是日常的一些事物，且种类很多，这个我们最好是使用它原来的全连接层，当前我们是做猫狗二分类，所以我们这里输入False

我们称没有全连接层的神经网络为卷积基，这个也是我们变量名称conv_base的含义，卷积基本身就为一个神经网络，我们可以看一下它的summary()

之后我们在卷积基的基础上建立神经网络

  • GlobalAveragePooling2D()在这里与之前的例子中我们可以理解为加强版的Flatten()

我们看一下这个模型

由于我们继承了VGG的权重，之后进行的训练实际上我们希望仅对Dense层训练，所以我们要将卷积基置为不可训练状态

我们现在再看一下这个模型

发现可训练参数比起之前少了许多

2.3  编译模型

2.4  训练模型

我们看一下曲线

  • acc

  • loss

我们可以看到训练仅进行15次，正确率就可达到80%以上，且仍然有上升趋势，从图像上来看，我们的结果是有一点儿欠拟合，我们可以增加epoch，这样训练的acc与loss应该会有改观

之后我们保存模型

2.5  预测模型

然后我们对模型进行预测，我们使用这两张图像进行预测

我们训练时的输出层是有sigmoid的，所以在这里我们使用0.5作为阈值

Suyuoa
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
【Pytorch】迁移学习(Transfer Learning)
m0_51941269的博客
12-09 2391
什么是迁移学习，常见迁移学习方式，例子
Tensorflow迁移学习
qq_52923100的博客
08-22 323
使用别人已经训练好的模型来训练自己的任务。显示出验证数据中前3张图像的可视化结果。首先我们需要安装tensorflow。定义一个新模型，编译并训练这个模型。绘制训练过程中的准确率和损失曲线。绘制训练过程中的准确率和损失曲线。定义两个全连接层，用作模型预测。微调神经网络模型中的部分层。生成训练数据批量增强样本。生成验证数据批量增强样本。编译并训练一个网络模型。获取训练数据批次样本。
29- 迁移学习 (TensorFlow系列) (深度学习)
March_A的博客
03-05 673
使用迁移学习的优势：能够快速的训练出一个理想的结果当数据集较小时也能训练出理想的效果注意：使用别人预训练模型参数时，要注意别人的预处理方式。
关于Tensorflow！目标检测预训练模型的迁移学习
北桥苏的博客
03-31 750
关于TF的目标检测迁移学习，我一开始是想通过Tensorflow提供的API，用JS来实现的。但是官方不但没有案例，网上也没有踩坑的博客，加之我又着急要弄水印检测。于是就在网上看了很多人用python实现的自定义训练，我也试过很多。运行的时候各种问题，不是缺少模块，就是版本兼容问题说什么convert 't' to a tensor and failed，还有运行Tensorboard打不开等等各种问题。
人工智能-项目实践-迁移学习-基于resnet18的迁移学习分类网络，用于给bee和ant二分类.zip
12-15
定义学习率每7步自动衰减exp_lr_scheduler = lr_scheduler.StepLR(optimizer, step_size=7, gamma=0.1) 进行25轮次训练，每一轮都在训练集上训练，在验证集测试 把25轮次中的最优模型参数保存下来best_model_wts =...
本项目旨在以CRAFT提供的预训练模型为基础，进行迁移学习以用于检测自己数据集中的文本.zip
01-07
直接使用CRAFT的预训练模型测试自己的文本图像 下载CRAFT预训练权重文件[craft_mlt_25k.pth](提取码：3bgk)，并将该权重文件放入pretrained目录下。 将需要检测的图像全部放入imgs目录下。 运行代码: ...
Swin-Transformer 图像分类网络实战项目：25种宝石图像分类数据集（迁移学习)
最新发布
03-11
【基svit网络对25种宝石图像分类数据集的迁移学习项目】 【包含代码、数据集和训练好的权重文件，可直接运行】 项目总大小：765MB 本数据集分为以下25类：Alexandrite、Danburite、Tanzanite等等共25类别（每个类别...
经典CNN网络之Resnet 图像分类网络实战项目：25种宝石图像分类数据集（迁移学习）
03-11
【基于Resnet101网络对25种宝石图像分类数据集的迁移学习项目】 【包含代码、数据集和训练好的权重文件，可直接运行】 项目总大小：349MB 本数据集分为以下25类：Alexandrite、Danburite等等共25类别（每个类别均有...
经典CNN网络之VGG16图像分类网络实战项目：25种宝石图像分类数据集（迁移学习）
03-11
【基于VGG16网络对25种宝石图像分类数据集的迁移学习项目】 【包含代码、数据集和训练好的权重文件，可直接运行】 项目总大小：804MB 本数据集分为以下25类：Alexandrite、Danburite等等共25类别（每个类别均有25-...
详解tensorflow实现迁移学习实例
09-20
本篇文章主要介绍了详解tensorflow实现迁移学习实例，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
tensorflow迁移学习
10-02
tensorflow利用Inception-v3实现迁移学习。加载已有的模型，作为新任务提取特征的操作，实现分类迁移。包含完整的代码和数据集
TensorFlow迁移学习工程实例
06-17
TensorFlow迁移学习工程实例
使用tensorflow搭建分类神经网络以及迁移学习（训练过程）
qq_37652891的博客
04-12 3109
*************************************************** 码字不易，收藏之余，别忘了给我点个赞吧！ *************************************************** ---------Start 本文不涉及tensorflow环境配置过程，只讲解整个项目代码大致内容。至于每个函数的每个参数意义，同学们可以百度了解或私信我，见谅！ 数据集：二分类数据集，每个类别包含一个文件夹，文件夹中都保存了对应类别的图像数据。 Norma
SIGIR2020 | 一种新颖的推荐系统重训练技巧
张小磊的博客
09-07 379
嘿，记得给“机器学习与推荐算法”添加星标背景事实上，在推荐系统的学术研究中，我们过于关注模型的创新，而忽视了落地可行性以及实用性。这与模型的新颖度和复杂度不同，是另外一个层面的值得我们考...
tensorflow实现迁移学习
jindaxiaoooo的博客
10-13 1463
用 win10 快速安装 wget 步骤一，右击“命令提示符”，选择“以管理员身份运行”。 步骤二 安装choco。输入这行代码 @"%SystemRoot%\System32\WindowsPowerShell\v1.0\powershell.exe" -NoProfile -InputFormat None -ExecutionPolicy Bypass -Command “iex ((New-Object System.Net.WebClient).DownloadString(‘https:.
TensorFlow学习笔记（12）迁移学习续
m0_63848276的博客
12-26 477
tensorflow官网学习笔记
Tensorflow实现迁移学习
Yenpo Ma的博客
02-08 541
迁移学习就是将一个问题上训练好的模型通过简单的调整使其适用于一个新的问题 使用数据集：http://download.tensorflow.org/example_images/flower_photos.tgz 使用Google提供的训练好的模型Inception-v3：http://storage.googleapis.com/download.tensorflow.org/models/...
迁移学习和微调(tensorflow)
m0_73089087的博客
08-11 634
迁移学习和微调(tensorflow)
pytorch迁移学习实例
06-06
好的，以下是一个基于 PyTorch 的迁移学习实例，可以参考一下： 1. 导入必要的库 ```python import torch import torch.nn as nn import torchvision from torchvision import datasets, models, transforms import numpy as np import matplotlib.pyplot as plt ``` 2. 加载数据集 ```python data_dir = '/path/to/data' data_transforms = { 'train': transforms.Compose([ transforms.RandomResizedCrop(224), transforms.RandomHorizontalFlip(), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]) ]), 'val': transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]) ]), } image_datasets = {x: datasets.ImageFolder(os.path.join(data_dir, x), data_transforms[x]) for x in ['train', 'val']} dataloaders = {x: torch.utils.data.DataLoader(image_datasets[x], batch_size=4, shuffle=True, num_workers=4) for x in ['train', 'val']} dataset_sizes = {x: len(image_datasets[x]) for x in ['train', 'val']} class_names = image_datasets['train'].classes ``` 3. 加载预训练模型 ```python model_ft = models.resnet18(pretrained=True) num_ftrs = model_ft.fc.in_features model_ft.fc = nn.Linear(num_ftrs, 2) ``` 4. 定义损失函数和优化器 ```python criterion = nn.CrossEntropyLoss() # Observe that all parameters are being optimized optimizer_ft = torch.optim.SGD(model_ft.parameters(), lr=0.001, momentum=0.9) ``` 5. 训练模型 ```python def train_model(model, criterion, optimizer, num_epochs=25): for epoch in range(num_epochs): print('Epoch {}/{}'.format(epoch, num_epochs - 1)) print('-' * 10) # Each epoch has a training and validation phase for phase in ['train', 'val']: if phase == 'train': model.train() # Set model to training mode else: model.eval() # Set model to evaluate mode running_loss = 0.0 running_corrects = 0 # Iterate over data. for inputs, labels in dataloaders[phase]: inputs = inputs.to(device) labels = labels.to(device) # zero the parameter gradients optimizer.zero_grad() # forward # track history if only in train with torch.set_grad_enabled(phase == 'train'): outputs = model(inputs) _, preds = torch.max(outputs, 1) loss = criterion(outputs, labels) # backward + optimize only if in training phase if phase == 'train': loss.backward() optimizer.step() # statistics running_loss += loss.item() * inputs.size(0) running_corrects += torch.sum(preds == labels.data) epoch_loss = running_loss / dataset_sizes[phase] epoch_acc = running_corrects.double() / dataset_sizes[phase] print('{} Loss: {:.4f} Acc: {:.4f}'.format( phase, epoch_loss, epoch_acc)) return model device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") model_ft = model_ft.to(device) model_ft = train_model(model_ft, criterion, optimizer_ft, num_epochs=25) ``` 6. 保存模型 ```python torch.save(model_ft.state_dict(), '/path/to/save/model.pth') ``` 这个例子中，我们使用了一个预训练的 ResNet-18 模型进行迁移学习，然后训练了一个二分类模型。你可以根据自己的需要进行修改和扩展。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Suyuoa

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值