迁移学习总结(One Shot Learning, Zero Shot Learning)

最新推荐文章于 2025-09-21 08:15:57 发布
原创 最新推荐文章于 2025-09-21 08:15:57 发布 · 1.9w 阅读 · 69 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#迁移

本文介绍了迁移学习的多种类型，包括Source Data与Target Data均有标签的情况下的Fine-tuning和Multitask Learning，Source Data有标签而Target Data无标签时的Domain-adversarial training和Zero-shot Learning，以及Source Data无标签但Target Data有标签的Self-taught Learning。文章通过实例解释了如何在不同标签情况下应用迁移学习，特别是强调了在Zero-shot Learning中如何利用特征细化进行类别推断。

目录

迁移学习

综述

这段时间要做元学习相关的工作所以，首先对迁移学习了简单的学习分类，接下来会持续更新对于元学习论文的阅读还有理解。
以前接触最多的是图像的分类问题，我们将一个很大的数据集分为两个部分，一部分作为训练集，剩下的部分作为测试集。我们在训练集上面根据神经网络的基础算法比如back propagation 和 SGD算法对网络进行训练，训练结束之后用测试集对网络的泛化能力进行测试，通常用准确率表示。这就是简单的深度学习，这些学习任务的重点是训练出一个泛化能力很强的网络，由于是从相同的数据集里面抽离出来的，所以训练集还有测试集的种类都是相同的，没有多余的类。比如说，MNIST是一个简单的手写数字识别的库，训练集和测试集都是手写的数字，只包含0，1，2，3，4，5，6，7，8，9，0 十个数，不会让你完成其他的任务。
相类似的问题如下图：
这里写图片描述
可以看到在后面的两个任务里面做了我们看起来毫无关系的迁移学习，这实现起来是相当困难的，甚至可能不会取得很好的效果。
更多的例子见：1 and 2
下面我们对目前存在的迁移学习的种类进行分类，在迁移学习的学习任务中通常包括两个集合，Source Data还有 Target Data，source data。source data是我们解决问题之前就知道的相关的数据，它和Target任务之间存在一定的关系。Target Data

Source Data 与Target Data 都有标签

Fine-tuning

  • 任务描述：Source data: (xs,
最低0.47元/天 解锁文章
PyTorch深度学习实战（40）——零样本学习(Zero-Shot Learning)
盼小辉丶的博客
04-01 8947
零样本学习 (Zero-Shot Learning) 旨在解决传统监督学习中，当训练数据中不存在某个类别的样本时，如何对该类别进行分类的问题。在传统监督学习中，分类模型需要通过训练数据学习到每个类别的特征和模式，并在测试阶段根据这些学习到的知识对新样本进行分类。然而，在现实世界中，我们无法获得所有可能类别的训练样本，因此零样本学习成为了一种重要的解决方案。在本节中，我们将学习零样本学习的基本概念，并使用 PyTorch 实现零样本学习模型。
零样本学习 (ZeroShot Learning)
AI天才研究院
07-30 509
在机器学习领域，分类和识别是常见的任务。传统机器学习模型通常需要大量的标注数据进行训练，以便准确地区分不同的类别。然而，在某些实际应用场景中，我们无法获取足够多的标注数据，或者标注数据获取的成本极高。例如，在生物医学领域，新疾病的识别可能需要大量的专业知识和经验，而获取相应的标注数据往往非常困难。为了解决这一问题，零样本学习（Zero-Shot Learning, ZSL）应运而生。ZSL的核心思想是在没有或只有少量标注样本的情况下，直接对未见过的类别进行分类和识别。学习原型表示。
One-shot learning with Memory-Augmented Neural Networks
01-21
One-shot learning with Memory-Augmented Neural Networks,这是2016年arXiv的关于元学习的论文
Transfer learning迁移学习小结
qq_43733107的博客
05-29 334
Transfer learning迁移学习小结
ConvNeXt目标跟踪算法：SiamRPN与ATOM集成
最新发布
gitblog_00298的博客
09-21 1004
你是否在目标跟踪任务中面临精度与速度的两难选择？当处理遮挡、形变和快速运动场景时，传统算法常出现漂移或跟踪失败。本文将系统讲解如何将ConvNeXt架构与SiamRPN（Siamese Region Proposal Network，孪生区域提议网络）、ATOM（Accurate Tracking by Overlap Maximization，通过重叠最大化实现精确跟踪）算法深度集成，构建兼顾实...
one-shot learning && GAN的资料汇集
holmes_MX的博客
10-09 1427
0. 写作目的 好记性不如烂笔头。 1. one shot learning  1. VALSE2018 有关One-shot-learning 的报告：https://www.jiqizhixin.com/articles/2018-06-20-13 有关one-shot-learning的博客：1) http://chuansong.me/n/2131635951225       ...
One-shot Learning
Touch_Dream的博客
09-03 1万+
背景主要研究的是网络少样本精准分类问题，单样本学习能力！很明显，机器学习系统很希望拥有这种快速从少量样本中去学习的能力，因为收集和标记数据是一个耗时费力的工作。而且，我认为这是通往通用人工智能的漫漫长路中很重要的一步。主要的研究就是单样本多类别问题，一个样本多个label，也就是弱监督！Baseline：近邻最简单的分类方式是使用k-近邻，KNN方法，但是因为每个类别只有一个样本，所以我们需要用1近
迁移学习总结
gbz3300255的博客
05-07 302
直接上链接 https://www.jianshu.com/p/07426ba049b6
元学习综述，meta learning，A Survey of Zero-Shot Learning + poster
07-09
零样本学习（Zero-Shot Learning）是元学习的一个重要应用领域，它挑战了机器学习的传统边界，目标是让模型在没有看到过任何特定类别的实例时，也能识别这些类别。这通常通过利用类别之间的语义关系，如预先定义的...
Zero-shot、One-shot、Few-shot 三种学习方法的理解
liguiyuan的博客
09-24 6068
在AI模型学习方法中，Zero-shot、One-shot、Few-shot 学习是处理情形的几种重要方法，主要用于解决训练数据少、导致模型泛化能力差的问题。
ICLR2024迁移学习+强化学习《Zero-shot Preference Learning for Offline RL via Optimal Transport》
qq_46981910的博客
06-13 890
本文提出了一种新颖的零样本偏好学习算法（Zero-shot Preference Learning），用于离线强化学习（Offline RL），通过最优传输（Optimal Transport）技术，利用源任务中的标记偏好数据来推断目标任务的偏好标签，从而无需人类查询。该方法利用Gromov-Wasserstein距离对齐源任务和目标任务之间的轨迹分布，并通过解决最优传输矩阵来实现任务间轨迹的对应关系，进而转移偏好标签。为了解决从推断标签中直接学习可能导致的奖励函数不准确问题，论文还引入了鲁棒偏好变换器（R
迁移学习总结仅供参考
05-29
目前迁移学习的进展，参考了一些资料做的总结，希望能够对大家的研究提供帮助~~
迁移学习相关论文和个人总结
11-10
有关迁移学习的相关论文和资料，并且附加上个人的总结。
什么是one-shot learning
junbaba_的博客
11-27 5943
什么是one-shot learning ​ Zero-shot learning 指的是我们之前没有这个类别的训练样本。但是我们可以学习到一个映射X->Y。如果这个映射足够好的话，我们就可以处理没有看到的类了。 比如，我们在训练时没有看见过狮子的图像，但是我们可以用这个映射得到狮子的特征。一个好的狮子特征，可能就和猫，老虎等等比较接近，和汽车，飞机比较远离。 ​ One-shot learning 指的是我们在训练样本很少，甚至只有一个的情况下，依旧能做预测。 ​ 这是如何做到呢？可以在一个大数据
One-Shot Learning
冰雪棋书的博客
11-02 635
1、意义 减少训练数据 1.深度学习需要大量的数据 2.MNIST为了10个类别的区分，需要60000张训练图像，平均一个类别需要6000张训练图像 3.One-Shot试图将一个类别的训练图像减少，极端情况减小到一张图片 在新类别的数据出现时，无需重新训练 1.传统的深度神经网络无法处理没有出现在训练集中的类别 2.以员工刷脸打卡为例，使用传统深度神经网络，每一个新员工入职，都是一个新的类别，需要重新训练深度神经网络 3.如果每天都有新员工入职，每天都需要重新训练网络，成本非常高 4.O
深度学习: Zero-shot Learning / One-shot Learning / Few-shot Learning
邦戈邦戈栗子的博客
11-20 613
Introduction 在 迁移学习 中，由于传统深度学习的 学习能力弱，往往需要 海量数据 和 反复训练 才能修得 泛化神功 。为了 “多快好省” 地通往炼丹之路，炼丹师们开始研究 Zero-shot Learning / One-shot Learning / Few-shot Learning。 爱上一匹野马 (泛化能力)，可我的家里没有草原 (海量数据) 。 Learning类型 分...
One-Shot学习/一次学习（One-shot learning）
热门推荐
csdn_xmj的博客
05-25 1万+
来源：Coursera吴恩达深度学习课程 人脸识别所面临的一个挑战就是需要解决一次学习问题（one-shot learning problem），这意味着在大多数人脸识别应用中，你需要通过单单一张图片或者单单一个人脸样例就能去识别这个人。而历史上，当深度学习只有一个训练样例时，它的表现并不好，让我们看一个直观的例子，并讨论如何去解决这个问题。 假设数据库里有4张员工照片（deeplearning.ai的员工），分别是Kian，Danielle，Younes和Tian。现在假设有个人来到办公室，并且她
One Shot Learning（单样本学习） with Siamese Networks （孪生网络）using Keras
qq_42580533的博客
06-14 1378
目录： 1.介绍 2.先验知识 3.classfication vs one shot leanrning 4.应用 5 omnilog 数据集 6.加载数据集 7.映射问题到二分类 8.模型的架构与训练 9.KNN模型 10.随机模型 11.测试结果和展望 12.结论 13.参考文献 1. 介绍 卷积神经网络是图像分类领域的最新方法可以说，但是卷积神经网络我们都知道需要非常庞大的数据集来支撑，万一我们无法收集到这些数据集怎么办呢? one shot learning就来啦~ 2.先验知识 有一些关于
迁移学习心得，OpenStack
lilicheung的专栏
07-06 1258
最近一直在看有关OpenStack里迁移方面的情况，也顺便往下看了下QEMU里关于migration的实现。在这里分享一下自己学习的体会。 我看的OpenStack为g版本，不久将至的h版本在migration方面应该没有太大的改变。（至少没有从f到g来的大） OpenStack关于migration可以分为两类，migration和livemigration，migration进入dashb
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值