pytorch微调与迁移学习

最新推荐文章于 2024-08-14 09:24:24 发布
最新推荐文章于 2024-08-14 09:24:24 发布
阅读量205 收藏 3
点赞数
分类专栏： pytorch 文章标签： pytorch 迁移学习 深度学习 微调
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41504611/article/details/128554474
版权

文章目录

先迁移学习

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 在实际应用中，一般解冻靠近输出的卷积
    下面展示解冻全部卷积的部分：
    在这里插入图片描述
    在这里插入图片描述
    然后开始训练，训练完以后查看精度

  • 最终结果在94.多%
    在这里插入图片描述

下面进行微调来提升模型精度

  • 全连接层全部训练好以后才能微调（重点，一定要记住）
    在这里插入图片描述

在这里插入图片描述

  • 开始训练
    在这里插入图片描述
    预测精度提升了
    在这里插入图片描述
  • 保存最优的模型参数（即分数最高的） 来进行预测
    保存最优参数的介绍下面会介绍
算法黑哥
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【AI】PyTorch实战（三）：迁移学习
郭老二
09-27 972
迁移学习 feature + classifier：通常做法就是在大的数据集（比如ImageNet）上训练出一个CNN，然后提取最后一层卷积层或者倒数第二层全连接层的输出作为CNN 特征，然后直接使用 SVM、贝叶斯或softmax等分类器进行分类；微调 Fine-tuning：将在大数据集上训练得到的weights作为特定任务（小数据集）的初始化权重，重新训练该网络（根据需要，修改全连接层输出）；上面的模型，使用新数据来训练整个网络，如果数据不够好，将对网络产生大的负面影响，因此需要冻结部分网络层。
使用PyTorch执行特征提取和微调的迁移学习来进行图像分类
06-15
flower_photos: 5种花朵原始图片集（雏菊、蒲公英、玫瑰、向日葵、郁金香） ...fine_tune.py 执行基于微调的迁移学习，并把模型存储磁盘 inference.py 接受经过训练的PyTorch模型，并使用它对输入的花朵图像进行预测
PyTorch Lightning教程三：迁移学习
十二月未央未眠
07-26 781
介绍：本期介绍Lightning的迁移学习。
Pytorch总结十六之优化算法：图像增广训练模型、微调（迁移学习）实现热狗识别
yohnyang的博客
10-27 2120
Pytorch总结十六之优化算法：图像增广训练模型、微调（迁移学习）实现热狗识别
Pytorch 微调（Fine-tuning）
负负得正的博客
05-03 2488
Pytorch 微调（Fine-tuning） 0. 环境介绍 环境使用 Kaggle 里免费建立的 Notebook 教程使用李沐老师的 动手学深度学习 网站和 视频讲解 小技巧：当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。 1. 微调 1.1 迁移学习（Transfer Learning） 假如我们想识别图片中不同类型的椅子，然后向用户推荐购买链接。 一种可能的方法是首先识别 100 把普通椅子，为每把椅子拍摄 1000 张不同角度的图像，然后在收集的图像数据集上训练一个分类模型。
Pytorch学习笔记——迁移学习（微调）
qq_44992157的博客
01-04 471
可以看出，使用预训练模型参数的网络在经过同样的epoch后，达到的精度更高。4.不使用预训练模型的Python代码。2.使用预训练模型的Python代码。
pytorch 迁移学习实战，天气识别
01-04
在本项目中，我们将深入探讨如何使用PyTorch进行迁移学习来实现天气识别。迁移学习是一种机器学习方法，其中利用预训练模型的知识来解决新任务，通常在数据量较小或特征提取复杂的情况下非常有效。PyTorch是一个强大...
Pytorch离线下载迁移学习模型方法（VGG，RESNET等）
12-21
迁移学习的核心思想是利用预训练模型在大型数据集（如ImageNet）上学习到的特征，对新的、小规模的任务进行微调。通过在目标任务上调整最后一层或几层，我们可以快速提升新任务的性能，而无需从头开始训练庞大的网络...
pytorch深度学习图像处理合集
02-01
11. 迁移学习与微调：在有限的数据集上，迁移学习是提高模型性能的有效手段。PyTorch提供了预训练模型库，如`torch.hub`，可以直接加载并在新任务上进行微调。 12. 模型优化：包括正则化（L1、L2）、早停法、学习率...
配合博文 “ PyTorch深度学习实践（十一）——迁移学习 ” 一起食用，
03-29
在PyTorch深度学习实践中，迁移学习是一种非常重要的技术，特别是在图像分类任务中。这篇博文“PyTorch深度学习实践（十一）——迁移学习”将会深入探讨如何利用预训练模型来提升新任务的学习效率和准确性。 迁移...
PyTorch (五)：迁移学习 (微调 Fine-Tuning)、获取 PyTorch 预训练模型
连理o的博客
07-10 9730
本文参考–PyTorch官方教程中文版链接：http://pytorch123.com/FirstSection/PyTorchIntro/ Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/package_references/Tensor/ PyTorch英文文档：https://pytorch.org/docs/stable/tensors.html 《深度学习之PyTorch物体检测实战》《动手学深度学习》 第一次接触PyTorch，网上
【Pytorch项目实战】之迁移学习：特征提取、微调、特征提取+微调、雾霾清除
shinuone的博客
01-30 1403
具体过程：把任务A预训练模型（网络结构与权重参数），迁移到任务B上。A任务可以是识别图像中的车辆，而B任务可以是识别卡车、汽车、公交车等。
pytorch-迁移学习
Tabbyddd的博客
03-22 421
transforms.RandomResizedCrop() 随机长宽比剪裁，随机大小，随机长宽比剪裁原始图片，最后将图片resize到设定好的size size=A：输出分辨率 scale = (a.b)随机剪裁的大小，表示随机剪裁出来的图片会在a倍至b倍之间 ratio=(a, b)随机长宽比 设置为a:b interpolatio =a ,插值方法，默认为双线性插值 ·transform...
pytorch的学习——迁移学习，模型微调
qq_48898746的博客
04-06 3185
1、概念 1、迁移学习：把已经训练好的模型参数，迁移到新的模型，来帮助新的模型训练。 步骤：网络→大数据集→模型→模型微调→新数据集→新模型 2、冻结：被冻结的层可以前向传播，也可以反向传播，只是自己这一层的参数不更新，其他未冻结层的参数正常更新 3、正则化：这里使用BatchNorm，对该层每个节点的这m个输出进行归一化再输出. 2、代码 肺部感染识别，使用resnet50模型 def get_model(): model_pre = models.resnet50(pretrained=True
YOLOv8部署的4种不同部署方式推理速度对比：pytorch、onnx、ncnn、tflite
qq_30895747的博客
08-05 537
YOLOv8部署的4种不同部署方式推理速度对比：pytorch、onnx、ncnn、tflite
多头注意力用单元矩阵实现以及原因
一休
08-09 1154
MHA(多头注意力）共享矩阵和独立矩阵实现，为什么采用共享矩阵，并用实例说明
详细介绍Pytorch中torchvision的相关使用
hello！
08-14 232
如果需要使用自定义数据集，可以继承类，并实现__len__和方法。import os# 使用自定义数据集。
动手学深度学习（pytorch）学习记录7-线性回归的从零开始实现[学习记录]
weixin_50995339的博客
08-12 435
"""线性回归模型""""""均方损失"""# 6、定义优化算法"""小批量随机梯度下降"""
Pytorch常用训练套路框架(CPU)
最新发布
hello！
08-14 277
定义一个神经网络模型，通常继承自，并在__init__方法中定义网络层，在forward方法中定义前向传播过程。return x# 定义损失函数# 定义优化器。
pytorch基于alexnet迁移学习花卉分类
06-06
PyTorch是目前流行的深度学习框架之一，可以对神经网络进行构建、训练和优化等操作。AlexNet是2012年ImageNet比赛的冠军网络，具有优秀的图像分类性能。迁移学习则是指利用已有的网络模型和参数，在新的任务中进行微调和优化，以便更快、更准确地完成任务。 在花卉分类的任务中，我们可以利用已有的AlexNet模型和ImageNet数据集进行迁移学习。首先，我们需要获取一个包含花卉图片的数据集，可以从公开数据集或者自行收集。接着，我们将数据集按照训练集和测试集的比例进行划分，并利用数据预处理模块将图片数据转换为张量，以便于PyTorch进行处理。 然后，我们利用PyTorch提供的预训练模型加载AlexNet网络，并调整最后一层全连接层的输出大小以适应新的任务。接着，我们对这个网络进行微调，调整网络中的参数以便更适应花卉分类任务。这里使用交叉熵损失函数和随机梯度下降优化器，同时利用学习率调整策略和批量归一化等技术进行训练优化。 在训练完成后，我们可以利用测试集对网络进行评估，并计算出准确率和损失值等指标。最后，我们可以利用该网络进行花卉图片的分类预测，实现自动化的花卉识别。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值