CNN迁移学习

最新推荐文章于 2024-05-21 16:25:35 发布
最新推荐文章于 2024-05-21 16:25:35 发布
阅读量5.3k 收藏 7
点赞数 1
分类专栏： 深度学习 文章标签： cnn 深度学习 迁移
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010772289/article/details/61914281
版权

Learning and Transferring Mid-Level Image Representations using Convolutional Neural Networks

这是2014年发在CVPR上的一篇论文，主要解决一个问题：深度学习需要大量的数据，对于小的数据集，如何进行深度学习训练？作者提出了可以在大型数据集(如ImageNet)上进行预训练，然后将训练好的网络权重迁移到小的数据集，即用小的数据集对网络进行微调，从而使网络可以适用于小的数据集。

1.引入
2012年CNN在ImageNet竞赛(ILSVRC-2012)取得巨大进展，但它需要大量有标签数据(120万,1000类)
是否每次训练都需要如此大规模数据？
对于小型数据集如何做?(Pascal VOC: 5k训练集,5k验证集,20个类)
作者提出:将在大规模数据训练的CNN网络学习到的图像表示迁移到小型数据集上。

2.迁移CNN权重
CNN中间层可看做图像表示的提取器(extractor),它可以在源数据集(ImageNet)中进行预训练，并应用到目标数据集(Pascal VOC)中。如果直接将在ImageNet上训练的网络直接应用到Pascal VOC上可能存在一些问题，因为源数据集与目标数据集可能存在很大差别。例如：源数据集(ImageNet)和目标数据集(Pascal VOC)图像的分布以及标签可能都不同(如物体种类，图像视角等)，另外两个数据集中不同品种的狗可能都被标记为”dog”

3.网络
下图是AlexNet的结构，用于图像分类，参见

http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks
它包括5个卷积层，3个全连接层(最后一层是softmax)
使用的数据集：训练集:120万, 验证集5万, 测试集15万 ，一共1000类
AlexNet

再次回到之前的问题，对于一个小的数据集PASCAL VOC如何进行深度学习训练？其实我们可以首先利用ImageNet这样一个百万量级的数据集进行深度学习训练，但是训练好之后如何直接将它用到PASCAL VOC上效果可能不好，因为 ImageNet和PASCAL两个数据集图像的分布和标签可能都不同。对于这个问题，我们可以利用小的数据集PASCAL VOC对（在ImageNet上训练好的）网络进行微调，使这个网络可以用于小的数据集。具体如下：

3.1网络结构
去掉AlexNet最后一层FC8(softmax层，有1000类),增加两个全连接层Fca,FCb，FCb为softmax层，最后两层称为adaptation layer。示意图如下：

最低0.47元/天 解锁文章
EverlightGe
关注
  • 1
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
CNN与迁移学习
u010745111的专栏
03-29 5425
图像相关任务： 1、物体识别（faster R-CNN) 2、图片识别＋定位 3、物体检测 4、图像分割 图片定位： 输入：image 输出：物体边界框（x,y,w,h)；x,y是左上角坐标，w是宽度，h是高度。 评价准则：交并准则 思路1:看成回归问题。因为有四个数字 步骤1: 先解决简单问题，搭一个识别图像的神经网络。在经典CNN上进行fin
【Pytorch图像分类】搭建卷积神经网络（CNN）和使用迁移学习（Transfer Learning）实现图片识别
qq_43018832的博客
11-14 3169
图像分类，也可以称作图像识别，顾名思义，就是辨别图像中的物体属于什么类别。核心是从给定的分类集合中给图像分配一个标签的任务。实际上，这意味着我们的任务是分析一个输入图像并返回一个将图像分类的标签。在这里，我们将分别自己搭建卷积神经网路、迁移学习分别对图像数据集进行分类。本篇使用的数据集下载地址为：链接：https://pan.baidu.com/s/1mS4xIf1sr3mhYn-cJNMqjQ提取码：k57iPytorch_datasets文件夹底下包括两个文件夹存放各自的图片数据集。
《深度学习之迁移学习》详解
最新发布
Xu_youyaxianshen的博客
05-21 708
迁移学习是一种先进的机器学习技术，它允许将一个任务中获得的知识迁移到另一个相关任务上，尤其适用于数据量有限或难以获取标注数据的情况。它基于不同任务之间存在相关性的原则，通过迁移预训练模型的参数来加速新任务的学习过程，并提高模型性能。
深度学习---从入门到放弃（七）CNN进阶，迁移学习
weixin_46263718的博客
09-12 1052
深度学习—从入门到放弃（七）CNN进阶，迁移学习 引入 图像是高维的。即image_length* image_width*image_channels是一个很大的数字，而上一教程里所提到的CNN的权值共享便是一种解决图像和其他领域高维问题的方法。 在CNN网络结构的演化上，出现过许多优秀的CNN网络，本文的目的就是带大家了解现代卷积神经网络的发展历程，本文主要关注以下四种网络：LeNet，AlexNet，VGG-Net，GoogLeNet，ResNet。 1. ...
预训练模型迁移学习（Transfer Learning）
跟着大数据和AI去旅行
04-22 1万+
1、迁移学习 迁移学习在计算机视觉领域中是一种很流行的方法，因为它可以建立精确的模型，耗时更短。利用迁移学习，不是从零开始学习，而是从之前解决各种问题时学到的模式开始。这样，你就可以利用以前的学习成果(例如VGG、 Inception、MobileNet)，避免从零开始。我们把它看作是站在巨人的肩膀上。 在计算机视觉领域中，迁移学习通常是通过使用预训练模型来表示的。预训练模型是在大型基准数据集上训...
吴恩达—卷积神经网络（CNN）学习笔记（四）——迁移学习 & 数据增强
weixin_47414581的博客
12-15 700
而对于冻结这样的操作，在代码中的实现取决于我们使用的深度学习框架，例如在pytorch框架下可以使用以下代码对网络的前9层进行冻结。当然，当我们有相对较多的数据样本时，也可以选择冻结更少的层，一般来说按从深到浅的顺序“解冻”。简单来说，规律就是你拥有的数据样本越多，你需要冻结的层数就越少，你能够训练的层数就越多。第二周的学习至此也结束了，总结来说这周课程的内容开始更多地偏向于实际应用了，尤其是迁移学习和数据增强的方法可以很有效地解决计算机视觉领域样本数据不足的问题。下载下来，也就是网络中的参数。
迁移学习1
08-03
迁移学习是一种机器学习方法，其核心思想是利用在一个任务中学习到的知识来改善在另一个相关任务上的表现。在医学影像分析领域，特别是超声视频数据的处理中，迁移学习扮演着重要的角色。本文以胆管细胞癌（ICC）和...
论文研究-基于CNN迁移学习的甲状腺结节检测方法.pdf
09-10
针对数据样本量小的限制，提出利用预训练与迁移学习改善网络性能的策略。根据不同结构CNN能够提取不同层次特征的特点，提出融合浅层与深层网络的方法。通过医院收集的3 414张图片对提出的方法进行验证，最终准确率为...
python迁移学习
10-21
Python迁移学习是现代人工智能领域中的一个关键概念，它在机器学习项目中扮演着重要的角色，尤其是在数据集小或者标注成本高的情况下。迁移学习利用在大型数据集上预训练的模型，将其知识迁移到新的、相对较小的任务...
学习笔记CNN实战代码
03-19
2. **图像识别**：CNN在图像识别中的应用，可能包括使用预训练模型（如VGG、ResNet）进行迁移学习，以及自定义CNN模型进行端到端训练。 3. **深度学习框架**：如TensorFlow或Keras的使用，包括模型搭建、数据预处理...
迁移学习实现图像风格迁移
03-22
迁移学习是一种深度学习技术，它利用预训练模型在大规模数据集上学习到的特征，来改进在新任务上的性能。在图像风格迁移中，我们利用迁移学习将源图像（content image）的语义内容与目标图像（style image）的艺术...
【Keras图像分类】搭建卷积神经网络（CNN）和使用迁移学习（Transfer Learning）实现图片识别
qq_43018832的博客
11-14 2196
图像分类，也可以称作图像识别，顾名思义，就是辨别图像中的物体属于什么类别。核心是从给定的分类集合中给图像分配一个标签的任务。实际上，这意味着我们的任务是分析一个输入图像并返回一个将图像分类的标签。在这里，我们将分别自己搭建卷积神经网路、迁移学习分别对图像数据集进行分类。本篇使用的数据集下载地址为：链接：https://pan.baidu.com/s/1soJXb2_UJKeHYT0mpec2Fw提取码：rm3cdatasets文件夹底下包括两个文件夹存放各自的图片数据集。
迁移学习篇之如何迁移经典CNN网络-附迁移学习Alexnet，VGG，Googlenet，Resnet详细代码注释和方法-pytorch
爱吃橘子的小翟
04-27 3573
迁移学习
什么是迁移学习（Transfer Learning）？【精讲+代码实例】
热门推荐
SunshineSki的博客
11-15 2万+
文章目录@[toc]1. Introduction2. Development of Machine Learning3. What is transfer learning ？4. How to transfer ?4.1 Example 1：物体识别4.2 Example 2：放射科诊断4.3 Example 3：语音识别系统5. The meaning of transfer learnin...
深度学习知识点整理（三）——CNN / CNN网络举例 / RNN / LSTM / 迁移学习
zhr1030635594的博客
06-30 3609
6-CNN-3 （理解卷积过程） 计算卷积后特征图尺寸（步长1 原图大小32，核5，则(32-5)/步长+1=28 CNN层次序 卷积层->ReLu层->池化层（下采样，压缩数据和参数数量）->全连接层 边界0填充 不丢弃原图信息，保持特征图与原图大小一致。核大小3 5 7 分别填充宽度1 2 3 计算卷积核参数数量 如核大小5，则5×5×3+1 （3通道，1个偏置） 池化层 7-CNN-case study LeNet-5 采用平均池化； Alexnet创新点 采用ReLU激活函数；dr
一文了解迁移学习和微调&使用Tensorflow实现迁移学习和微调 (构建CNN图像分类模型)
str_717的博客
06-27 4848
作者本人参加了美赛&计算机设计大赛，在2021年的美赛C题（大数据题）中存在马蜂的图片数据，使用了迁移学习的方法构建了图像分类模型。在计算机设计大赛中，也使用了迁移学习的方法构建了关于印章的分类模型。因而特此记录一下迁移学习的方法。
机器学习、监督学习、非监督学习、强化学习、深度学习、迁移学习
明月清风
12-01 2万+
文章目录机器学习（machine learning）监督学习（supervised learning）非监督学习（unsupervised learning）强化学习（reinforcement learning）传统机器学习深度学习 （deep Learning）迁移学习 （transfer learning） 机器学习（machine learning） 机器学习的主要任务： 分类（cla...
迁移学习(Transfer Learning)概述及代码实现(full version)
黄波波的博客
04-21 1万+
基于PaddlePaddle的李宏毅机器学习——迁移学习 大噶好，我是黄波波，一名入门不久自学AI的AI Trainer,宝可梦训练师（纯属业余）。希望能和大家共进步，错误之处恳请指出！ 百度AI Studio个人主页, 我在AI Studio上获得白银等级，点亮2个徽章，来互关呀~ 本项目是在飞桨深度学习学院提供的李宏毅-机器学习特训营课程。 Abstract 本文共分为两大部分：第一部分介绍迁移学习的主要概念以及类型，第二部分是实现迁移学习布置的作业——领域对抗性训练(Domain Advers
一维cnn迁移学习
05-28
下面是一个使用GloVe模型进行文本分类的一维CNN迁移学习的例子： ```python import numpy as np import tensorflow as tf from tensorflow.keras.preprocessing.text import Tokenizer from tensorflow.keras....

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值