fine-tune实现迁移学习

最新推荐文章于 2023-05-12 11:47:08 发布
最新推荐文章于 2023-05-12 11:47:08 发布
阅读量286 收藏
点赞数
分类专栏： domain adaption（域适应） Transfer learning 文章标签： transfer learning 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42232024/article/details/109621142
版权

1、介绍
Deep Spatial–Temporal Model Based Cross-Scene Action Recognition Using Commodity WiFi采用了fine-tune技术，在源域训练模型的基础上做微调参数，从而实现目标域的分类任务。其主要网络结构如下所示：

在这里插入图片描述

在这里插入图片描述

3、存在问题
fine-tune后只能适应新的目标域，对与源域和其他域数据适应差

VLU
关注
专栏目录
迁移学习&finetune详解
m0_37769758的博客
04-14 1412
文章目录一.为什么要用迁移学习二.几种方式三.三种方式的对比四.具体训练策略建议 一.为什么要用迁移学习 1.站在巨人的肩膀上：在已经上线的基础模型的效果可以接受的情况下（表明模型有效，可以分辨数据集基础特征），没有必要重复造轮子，每次都在新数据集上从零开始训练。 2.训练成本低：后期的训练成本非常低，用CPU都完全无压力；或使用GPU，可在保证效果的同时提升速度。 3.适用于在业务中不断收集数据...
迁移学习Finetune
liupc的学习笔记
04-26 586
一、准备数据集 点击此处返回总目录 二、制作标签 三、将图片转换为LMDB格式 四、下载已经训练好的模型 五、...
迁移学习——Fine-tune
xp_fangfei的博客
11-27 432
迁移学习背景： 在传统的机器学习的框架下，学习的任务就是在给定充分训练数据的基础上来学习一个分类模型；然后利用这个学习到的模型来对测试文档进行分类与预测。然而，我们看到机器学习算法在当前的Web挖掘研究中存在着一个关键的问题：一些新出现的领域中的大量训练数据非常难得到。我们看到Web应用领域的发展非常快速。大量新的领域不断涌现，从传统的新闻，到网页，到图片,再到博客、播客等等。传统的机器学习需要对每个领域都标定大量训练数据，这将会耗费大量的人力与物力。而没有大量的标注数据，会使得很多与学习相关研究与应用无
finetune——迁移学习
怨行客
04-25 159
1、迁移学习背景：大量数据—分类模型—预测分类 得到标注好的数据浪费大量的金钱，丢弃过期的数据浪费钱，如何合理的利用这些数据呢？ 利用迁移学习，从旧的迁移到新环境的技法 2、定义—训练好的模型参数迁移到新的模型帮助训练，不是从零开始 深度学习就是训练（不用从零开始）和预测，多简单 3、啥用 1）借前人的模型参数 2）直接导出特征向量，不用牛逼机器也行 3）适用小数据集，因为不能直接用大型网络（超强...
深度学习 Fine-tune 技巧总结
一行一生
08-14 1万+
迁移学习不是一种算法而是一种机器学习思想，应用到深度学习就是微调（Fine-tune)。通过修改预训练网络模型结构（如修改样本类别输出个数），选择性载入预训练网络模型权重（通常是载入除最后的全连接层的之前所有层 ，也叫瓶颈层）再用自己的数据集重新训练模型就是微调的基本步骤。微调能够快速训练好一个模型，用相对较小的数据量，还能达到不错的结果。 模型的训练与预测： 深度学习的模型可以...
Transfer Learning & Fine-tune (迁移学习与模型微调)
dugudaibo的博客
09-13 1208
Transfer Learning & Fine-tune (迁移学习与模型微调)   
机器学习——概念理解之fine-tuning 强化学习 迁移学习
itlilyer的博客
07-09 2580
fine-tuning 强化学习 迁移学习
迁移学习花式Finetune方法大汇总
fareise的博客
03-20 1360
本文介绍了来自2018年以来ICML、CVPR等顶会的7篇论文，总结了Finetune的四种类型招式，通过更科学的Finetune方式，提升迁移学习效果。
迁移学习中的常见技巧:微调（fine-tuning）
最新发布
m0_56175815的博客
05-12 3140
迁移学习中的微调（Fine-tuning）是指在已经预训练好的模型基础上，对部分或全部模型参数进行调整以适应新任务。微调是在预训练模型的基础上进一步训练模型，使其适应新的任务或数据集。
迁移学习&Fine-tune Training
qq_41786778的博客
03-23 396
https://zhuanlan.zhihu.com/p/27657264 https://www.zhihu.com/question/49534423/answer/127022241
关于迁移学习与fine-tune的关系（借鉴引用参考）
sjh_sjh_sjh的博客
12-10 295
—————————————————————————————————————— 引用：https://www.zhihu.com/question/49534423 —————————————————————————————————————— 假设有个新的数据集，需要做一下图片分类，这个数据集是关于Flowers的。问题是，数据集中flower的类别很少，数据集中的数据也不多，你发现从零训练开始训练CNN的效果很差，很容易过拟合。 怎么办呢?于是你想到了使用Transfer Learning，用别人已经训练.
迁移学习与fine-tuneing的区别
dlhlSC的博客
04-18 2543
一、迁移学习是指将已经预先训练好的模型权重的某部分或整体用到相似任务的处理上。 优点：1）节省训练时间                    2）当新问题的数据集很小时，直接训练容易过拟合，迁移学习可以有效避免这种情况。 二、fine-tuning 属于trick，在迁移学习中有所涉及，泛指对参数进行微调。
论文笔记(1) : Deep Multi-View Spatial-Temporal Network for Taxi Demand Prediction
Coder_XiaoHui的博客
05-25 3356
这篇文章是作者在滴滴出行实习时做的一篇文章，投了AAAI2018. 1.Abstract 出租车需求预测可以帮助城市资源预调度 传统方法大部分都利用时序预测的技术 现有的深度学习方法只考虑单一的时间(LSTM)或空间(CNN)的维度 本文提出一个DMVST-Net，考虑了时间，空间，以及语义的维度 2.Introduction 传统方法中:ARIMA(autoregressive i...
视频行为识别检测综述 IDT TSN CNN-LSTM C3D CDC R-C3D
热门推荐
万有文的博客
06-20 14万+
本文github地址 Video Analysis之Action Recognition(行为识别) 行为识别就是对时域预先分割好的序列判定其所属行为动作的类型，即“读懂行为”。 [行为检测|论文解读]行为检测调研综述 较新 基于Deep Learning 的视频识别技术 科研成果—-中国科学院深圳先进技术研究院 面向人体姿态行为理解的深度学习方法 CVPR 2014 Tut...
目标识别检测的所有算法
请叫我小皇帝 的博客
12-01 1万+
数据总览 Detection Results: VOC2012 intro: Competition “comp4” (train on additional data) homepage: http://host.robots.ox.ac.uk:8080/leaderboard/displaylb.php?challengeid=11&compid=4 Papers Deep N
迁移学习（transfer learning）和微调（fine-tune）的几点认识
lonely_dark_horse的博客
12-27 1万+
迁移学习和微调的区别 什么是迁移学习？ 即一种学习对另一种学习的影响，它广泛地存在于知识、技能、态度和行为规范的学习中。任何一种学习都要受到学习者已有知识经验、技能、态度等的影响，只要有学习，就有迁移。迁移是学习的继续和巩固，又是提高和深化学习的条件，学习与迁移不可分割。 换句话说，对于一个具体的深度学习训练任务，如：人脸识别，训练数据当然是用人脸库啦，你会觉得是废话，但是，呵呵，要是你的人脸库
迁移学习/fine-tuning
风吴痕的博客
04-23 2547
参考： TF-Slim 实现模型迁移/微调 tensorflow/hub 通过重新使用TensorFlow模型的一部分来实现迁移学习的库 https://tensorflow.google.cn/hub/ Tensorflow-pb保存与导入 Tensorflow-查看保存的变量及名字 Tensorflow-变量保存与导入 迁移学习：数据不足时如何深度学习 Pre-traini...
cs231n-(9)迁移学习和Fine-tune网络
KangRoger的专栏
02-18 7100
介绍适合fine-tune的场景，以及方法。
nlp任务“pre-train - fine-tune”模式的优缺点
04-06
3. 可以通过微调fine-tune增量学习，使得模型更快收敛； 4. 可以提高模型的效率和准确性。 缺点： 1. 预训练需要较长时间和大量计算资源； 2. 对于不同任务，需要设计不同的fine-tune策略； 3. 静态的预训练模型...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值