论文进展-关于小样本学习的一些思考和疑问

最新推荐文章于 2024-07-23 18:27:09 发布
最新推荐文章于 2024-07-23 18:27:09 发布
阅读量2.7k 收藏 10
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ECHOSON/article/details/104497940
版权
本文作者在车辆重识别的背景下，深入思考小样本学习的定义、数据增强、迁移学习、元学习和度量学习的应用。文章讨论了小样本学习中样本量的界定，以及数据增强如何转变为大样本学习问题。同时，作者提出了关于某些方法是否真正符合小样本学习定义的疑问，并分享了在车辆重识别任务中如何应用小样本学习策略的困惑。
摘要由CSDN通过智能技术生成

车辆重识别部分的实验目前已经基本接近尾声，在吴潇学姐的指导下，相对于对比的模型，mAp和CMC两个指标都有了一定的提升，但是回到小样本学习的问题上来，我又产生了不少的疑惑，将目前的进展记录于此，希望能到得到学姐和老师的指导。

小样本学习的定义

之前按照我自己的理解，一直是以为训练的样本足够少才算是小样本学习，但是我一直不太清楚，小样本学习的小是如何定义的，有的文献中的小样本，是每个类别有10个样本，而有的文献中用到的是5个或者1个样本。首先从定义来看是这样来定义小样本学习这个问题的，只有少量的有标签的数据集S（也称为支持集）的小样本学习可以概括为N-way，K-shot问题，s包括N种样本，K表示每个类种的样本数，以N-way、one-shot为例，在支持集S中，每个样本都有不同的标签y_i，少样本学习的任务是给定的测试样本X^*进行分类，即能正确预测X^*属于哪个标签（

了解本专栏 订阅专栏 解锁全文 超级会员免费看
肆十二
关注
  • 1
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 5
    评论
专栏目录
订阅专栏
距离你解决小样本/少数据难题，只差这篇文章
cv君的博客
06-26 1万+
文章目录什么是小样本学习？小样本学习变体Zero-Shot Learning (ZSL)One-Shot和Few-Shot小样本学习方法数据级方法参数级方法Few-Show目标检测YOLOMAML小样本解决方法进阶总结 如今，在使用数十亿张图像来解决特定任务方面，计算机可以做到超过人类。尽管如此，在现实世界中，很少能构建或找到包含这么多样本的数据集。 我们如何克服这个问题？ 在计算机视觉领域，我们可以使用数据增强 (DA)，或者收集和标记额外的数据。DA 是一个强大的技术，可能是解决方案的重要组成部分。标
经典对比学习模型及原理探索总结
zenRRan的博客
12-05 2042
每天给你送来NLP技术干货！来自：SUFE AI Lab“ 对比学习是一种自监督学习方法，近年来在图像、文本、语音等领域都取得了惊人的效果，得到了广泛的关注和研究，针对对比学习框架的机理探索也在不断进行中。本文对几篇经典对比学习模型和原理探究论文进行总结分享，希望对读者有所启发。点击这里进群—>加入NLP交流群基本介绍目前，对比学习框架大多基于数据增强技术，通过不同样本的增强样本间的关系来获...
Few-Shot Image Recognition by Predicting Parameters from Activations阅读笔记
最新发布
weixin_44076628的博客
07-23 196
X为输入的图像，经过神经网络得到特征向量a(x)激活值.。Wy为全连接层的一组权重，参数。一般情况下，Wy是通过不断的学习，梯度下降，更新之后得到的权重。另一方面，许多非参数方法，如最近邻方法，可以很容易地适应新的概念，而不会严重忘记原来的类。Ay = {a(x)|x ∈ Dlarge ∪ Dfew, Y (x) = y}因此，去进行小样本分类，我们希望Ay×Wy越大越好。因为同一类的图像的激活值在空间上聚集，所以，Wy的合理选择与Ay均值对齐。从激活值中预测参数来适应预先训练的神经网络，以适应新的类别。
如何理解few-shot learning中的n-way k-shot？
张伟的专栏
01-18 1250
作者：胖迪王来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。时间：NIPS 2016最近在读《Matching Networks for One Shot Learning》这篇文章，里面好多内容有些疑问，以下参考博客并结合自己的理解，可能有些地方存在问题，希望大家多多指正。每天学一点知识，你将变得更优秀哒。
[论文阅读]DDC方法解决迁移学习中的小样本问题Deep Domain Confusion: Maximizing for Domain Invariance
IST-CTO
06-13 1629
DDC这篇论文，通过在源域与目标域之间添加了一层适应层及添加域混淆损失函数来让网络在学习如何分类的同时来减小源域及目标域之间的分布差异，从而实现域的自适应，成功的解决了小样本问题。...
【论文整理】小样本学习Few-shot learning论文整理收藏（最全，持续更新）
诸葛灬孔暗
07-14 8688
一、综述类 1.Generalizing from a Few Examples: A Survey on Few-Shot Learning 2.Generalizing from a few examples: A survey on few-shot learning, CSUR, 2020. 3.Rethinkingfew-shotimage classification: a good embedding is all you need?ECCV2020. 4.Prototyp...
小样本学习
alex1801
02-24 4611
给定两张图片 a 和 b，如果两张图片越相似，则 sim (a, b) 的值越大。在小样本学习问题中，Support Set中每一类往往只有少数几个样本，单单依靠这些样本，不可能训练出一个深度神经网络，甚至无法采用迁移学习中的Pretraining+Fine Tuning方法。将Query图片和Support Set中所有图片全部转化为特征向量，然后依次计算Query图片对应的特征向量和Support Set中各图片对应特征向量之间的距离，返回Support Set中距离最小的图片类别作为预测结果。
论文研究-基于小样本集弱学习规则的KNN分类算法.pdf
07-22
基于小样本弱学习规则的KNN分类算法旨在提高基于小样本集的KNN算法的分类精度，它首先对Dl中的数据对象进行学习，从中选取一些数据，利用学到的标签知识对其进行类别标号，然后将其加入到Dl中;最后利用扩展后的Dl对...
34.小样本学习 fewshot learning1
08-03
《小样本学习：FewShot Learning的探索与方法》 深度学习在当今的许多领域都取得了显著的成功，特别是在图像分类等任务上...随着研究的深入，我们可以期待更多创新方法的出现，进一步提升小样本学习的性能和泛化能力。
小样本学习视频-清华张长水老师
05-19
【视频】作为本次资源的形式，很可能是张长水老师关于小样本学习的讲座或课程录像。这类视频资源通常包含理论讲解、实例分析、算法演示等内容，可以帮助观众直观地理解小样本学习的基本概念、关键技术和应用场景。...
行业分类-电子-关于小样电解用钢水取样器的说明分析.rar
09-21
小样电解用钢水取样器主要用于获取钢水中的代表性样品，以便进行化学成分分析和机械性能测试，确保产品质量符合标准。 电解过程中，钢水取样器的设计和使用直接影响着取样结果的准确性和可靠性。这种设备通常由耐...
omniglot 数据资料
04-02
该数据集可以用于小样本的学习使用，比较方便，数据中的内容包含字符和类别分类
少样本学习综述_深度学习_小样本学习_
10-04
这种方法可以利用预训练模型的先验知识，提高小样本任务的性能。 3. 数据增强：由于小样本数据的稀缺性，数据增强技术变得至关重要。通过旋转、裁剪、颜色变化等方式增加数据的多样性，使得模型在有限的数据中能...
基于动态模型和迁移学习的滚动轴承滚道故障智能诊断框架:解决小样本问题
m0_47180208的博客
09-10 2076
A new dynamic model and transfer learning based intelligent fault diagnosis framework for rolling element bearings race faults: Solving the small sample problem摘要小样本学习策略动态模型的建立 摘要 近年来，随着人工智能技术的发展，滚动轴承的智能故障诊断越来越受到关注。许多智能诊断方法都需要被诊断对象的大量历史数据。然而，在真实的诊断场景中，很难提
Few-Shot Learning (FSL): 小样本学习简介及其应用
热门推荐
qq_26815239的博客
03-26 2万+
原文链接：Few-Shot Learning (FSL): What it is & its Applications
【小样本基础】小样本学习方法总结：模型微调、数据增强、迁移学习
vector的博客
02-24 1万+
目录一、基于模型微调的小样本学习二、基于数据增强的小样本学习1.基于无标签数据的方法2.基于数据合成的方法3.基于特征增强的方法三、基于迁移学习的小样本学习1.基于度量学习的方法2.基于元学习的方法3.基于图神经网络的方法四、数据集与实验五、总结 一、基于模型微调的小样本学习 二、基于数据增强的小样本学习 1.基于无标签数据的方法 2.基于数据合成的方法 3.基于特征增强的方法 三、基于迁移学习的小样本学习 1.基于度量学习的方法 2.基于元学习的方法 3.基于图神经网络的方法 在图神经网络里,每一个..
论文|少样本学习综述
weixin_43463276的博客
09-25 2264
原文题目：Learning from Very Few Samples: A Survey 文章结构： 一、引言 深度学习的领域： 1.视觉2.语言3.语音4.游戏5.人口学6.医学7.植物病理学8.动物学 深度学习的成功取决于： 强大的计算资源、复杂的网络、大规模的数据集。 少样本学习（FSL）的意义： 实际中，医学、军事、金融等一些领域由于无法获取足够的训练样本标签（可能是涉及隐私安全花费等），所以少样本学习很有意义。意义：1.不用依赖大规模样本 2.缩小人类与AI的差距 3.低成本，快速
gan 总结 数据增强_白话GAN及其解决小样本问题的探讨
weixin_42363510的博客
01-07 2432
作者：知乎—Curry地址：https://www.zhihu.com/people/curry-5-28一：白话GAN本文尽量用少量的公式，浅显的语言来描述生成对抗网络，让未接触过GAN的人可以有个初步的认识，并且从理论和实现的角度初步分析了GAN网络来解决小样本问题的可能性，欢迎各位补充交流。生成对抗网络Generative adversarial network, GAN，在14年...
迁移学习（Transfer learning）、领域自适应（Domain adaptation）以及小样本学习
渊荼
03-20 4988
Transfer learning、Domain adaptation以及小样本学习 文章目录Transfer learning、Domain adaptation以及小样本学习前言一、迁移学习（Transfer learning）二、域自适应（Domain adaptation）三、小样本学习1.引入库2.读入数据总结 前言   从人工建立基于规则的知识库到从数据中进行机器学习，使机器像人类一样思考的尝试已经走了很长的路。目前，机器学习已经从一个模糊的学科发展成为了一种推动工业和社会发展的重要力量。
小样本增量学习最近论文十篇
02-21
我最近花了一些时间研究小样本增量学习的最新论文，有以下十篇：1. “基于小样本学习的计算机视觉及其应用”，由江苏大学的研究人员撰写，发表在计算机视觉与图像理解杂志上。 2. “小样本增量学习在视觉识别中的应用”，由北京理工大学的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。 3. “小样本增量学习的自动机器翻译”，由上海交通大学的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。 4. “基于小样本增量学习的可视化检测”，由北京邮电大学的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。 5. “基于小样本增量学习的自然语言理解”，由华中科技大学的研究人员撰写，发表在自然语言处理杂志上。 6. “基于小样本增量学习的计算机视觉检测”，由中国科学院计算技术研究所的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。 7. “小样本增量学习的语音识别”，由中国科学院计算技术研究所的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。 8. “小样本增量学习的文本分析”，由清华大学的研究人员撰写，发表在ACM交叉学科计算机图形和虚拟现实杂志上。 9. “基于小样本增量学习的推理”，由中国科学院计算技术研究所的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。 10. “针对小样本增量学习的跨社交网络推荐”，由浙江大学的研究人员撰写，发表在IEEE交叉学科计算机图形和虚拟现实杂志上。回答：最近关于小样本增量学习的论文有十篇，分别是江苏大学、北京理工大学、上海交通大学、北京邮电大学、华中科技大学、中国科学院计算技术研究所、清华大学、浙江大学的研究论文。
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

肆十二

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值