few-shot learning

最新推荐文章于 2024-07-19 16:50:04 发布
最新推荐文章于 2024-07-19 16:50:04 发布
阅读量97 收藏
点赞数
分类专栏： few-shot 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36136196/article/details/120555500
版权

名词解释

training data，support set（k-ways,n-shot）,query，
support set,不在training data里,且其中的类也是novel的
(k是support set中的类别，n是每个类别的个数）query是想要查找的图片。
1）meta-learning：learn to learn，最简单是计算相似度。
Omniglot，50个不同的字母表，1623个不同的字符，每个字符由20个不同人书写，每个图片105105像素。
Mini-imageNet 100类，每个类600样本，每个样本是8484的图片。
2）Siamese Network:孪生网络
在这里插入图片描述
pairwise similarity
在这里插入图片描述

triplet loss
在这里插入图片描述

if (d-)>=(d+)+a,no loss
else loss=(d+)+a-(d-)
三、pretraining and fine tunning
cosine similarity计算相似度
softmax让大的变大，小的变小，与max相类似，所以命名为softmax
entropy regularization
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

暄染落墨
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
『NLP学习笔记』Few-shot Learning技术介绍
AI新视界
10-21 1721
Few-shot Learning技术介绍！
最近Few-Shot Learning总结
qq_21157073的博客
07-08 822
看了几篇论文，感觉还是懵懵懂懂的。实在看不下去了，今晚就写一点东西，做个总结。以后翻出来看看～～觉得自己当初也是挺猛的！！ Few-Shot Learning with Global Class Representations 在文章中，作者将base和novel类放到一块进行训练提取特征。作者认为这样可以很好的拟合两种分布。同时在训练过程中对于novel类做了数据增强。 模型的出发点在与使用所有...
Few-Shot Learning
Harris-H的博客
09-16 1286
Few-Shot Learning
Few-shot learning
sophicchen的专栏
04-07 664
1. 前言 Few-shot Learning顾名思义就是用很少的样本去做分类或者回归。举个简单的例子：假如现在有一个Support Set只有四张图片，前两张是犰狳（读音：qiú yú），又称“铠鼠”。后面两张是穿山甲，不用在乎太在意是否认识这两种动物，只需要区分这两种动物就行了，从现在开始观察10s，下面有一张测试图。 那么接下来进入测试环节：下面这张图是犰狳还是穿山甲呢？如果不能正常分类，那你基本就告别手表了！看过上面四张图片正常人都能做出正常判断，那么计算机是否能正确分类呢？如果每个训练集只
Few-shot Learning
weixin_44228512的博客
02-25 625
Few-shot Learning 一. 1. 与传统的监督学习不同，few-shot leaning的目标是让机器学会学习；使用一个大型的数据集训练模型，训练完成后，给出两张图片，让模型分辨这两张图片是否属于同一种事物。比如训练数据集中有老虎、大象、汽车、鹦鹉等图片样本，训练完毕后给模型输入两张兔子的图片让模型判断是否是同一种事物，或者给模型兔子和狗的图片去判断 2. 训练的目的是靠着Support Set提供的一点信息，让模型判断出Query中的图片是otter这个类别，尽管训练数据集中没有otter
深度学习基础知识干货 | 什么是few-shot learning
5年+算法工程师，分享人工智能前沿技术，与自己的工程经验，欢迎订阅关注。
03-22 880
few-shot learning
论文解读：Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning
weixin_50917576的博客
03-07 2207
元学习是近年来最常见的少样本学习框架。它从少量分类任务的集合中学习模型，这被认为具有使训练目标与测试目标一致的关键优势。然而，最近的一些研究报道，通过对整体分类的训练，即在整个标签集上进行分类，它可以得到与许多元学习算法相当甚至更好的嵌入。这两种工作之间的界限尚未得到充分的探索，元学习在少样本学习中的有效性仍然不清楚。在本文中，我们探索了一个简单的过程:对其评估指标的整体分类预训练模型进行元学习。
Interventional Few-Shot Learning
yanhu6955的博客
11-30 2724
1 Introduction 作者提出在FSL中存在使用越强的预训练模型可以使得算法性能提高的悖论，其原因是预训练模型的旧知识会产生误导性从而看不见新知识，该悖论揭示了FSL中未知的系统性缺陷。在该文献中，作者首先指出了这一缺陷的原因：预训练可能会在FSL中产生不良影响，然后提出了一种新的FSL范式：介入性小样本学习(IFSL)，以对抗这种不良影响，其理论基于预先训练的知识、小样本和类别标签之间的因果关系的假设。 2 Methodology 2.1 Few-Shot Learni...
few-shot learning 小样本学习---综述
xys430381_1的专栏
05-30 8309
小样本学习（Few-shot Learning）综述 （出自阿里巴巴团队2019年4月） Few-shot Learning: A Survey YAQING WANG1,2 , QUANMING YAO 2019
few-shot learning个人总结
weixin_43301333的博客
05-05 777
最近做few-shot EE感觉自己对few-shot setting还不是很清楚，看了一些博客大致做一个个人总结： 为什么要有few-shot learning 因为打标签成本高，或者说本身有标签的数据就难以获取。比方说图像多分类问题，每个类别的图像数目可能只有十几条。如果我们想要在这种，很少量的样本情况下(这里的少量多指，每种类别实例数量少)，模型仍然有较好的分类能力，就需要用few-shot learning的思路去做。 few-shot启发自人类，人类的小孩在分类的时候只需要很少几个样本就可以达到
Adaptive Subspaces for Few-Shot Learning.pdf
10-19
论文作者提供了代码实现，位于 GitHub 仓库 https://github.com/chrysts/dsn_fewshot 中。该仓库包含了 Adaptive Subspaces 框架的实现代码，可以帮助研究者快速实现 Few-Shot Learning。 结论 论文 "Adaptive ...
Pareto Self-Supervised Training for Few-Shot Learning.pdf
11-17
在机器学习领域，小样本学习（Few-Shot Learning, FSL）是一个重要的研究方向，它致力于在极少量标记数据的情况下让模型快速泛化到新概念。然而，由于数据稀疏，传统的深度学习方法在此场景下往往表现不佳。为了解决...
A New Meta-Baseline for Few-Shot Learning.docx
06-27
小样本学习（Few-Shot Learning）是机器学习领域的一个挑战性问题，旨在让模型能够从极少量的样例中学习并泛化到未见过的新类别。传统的深度学习方法通常需要大量标注数据才能达到较好的性能，而小样本学习试图模拟...
easy-few-shot-learning:易于使用的代码和教程笔记本，助您轻松实现几幅图像分类
05-18
简单易学 易于使用的代码和教程笔记本，助您轻松完成几幅图像分类。 如果满足以下条件，则为您创建此存储库： 您是初学者学习的新手，想学习； 或者您正在寻找可用于项目的可靠，清晰且易于使用的代码。...
A fast inference networks for SAR target few-shot learning based on improved siamese networks
02-07
A fast inference networks for SAR target few-shot learning based on improved siamese networks
13 循环神经网络—序列模型，语言模型
kaszxc的博客
07-16 122
时序模型中，当前数据跟之前观察到的数据相关自回归模型使用自身过去数据来预测未来马尔科夫模型假设当前只跟当前少数数据相关，每次都使用固定长度的过去信息来预测现在，从而简化模型潜变量模型使用潜变量来概括历史信息，使得模型拆分成两块：一块是根据现在观测到的数据来更新潜变量；另一块是根据更新后的潜变量和过去的数据来更新将来要观测到的数据内插法（在现有观测值之间进行估计）和外推法（对超出已知观测范围进行预测）在实践的难度上差别很大。
【深度学习】PyTorch框架(6)：GNN图神经网络理论和实践
最新发布
MUKAMO的博客
07-19 764
本文深入探讨了神经网络在图结构数据处理中的应用，介绍了图的邻接矩阵和边列表表示方法，以及图卷积网络（GCN）和图注意力网络（GAT）的实现。实践表明，图信息对提升预测模型性能至关重要，GNNs在社交网络、生物信息学、交通优化和推荐系统等领域具有巨大潜力，未来在AI领域将扮演更重要角色。
卷积加速算法img2col、Winograd、FFT
qq_56047026的博客
07-16 847
空间域中矩阵的卷积算子，实际等于频率域中两个矩阵元素相乘。但卷积的方向是相反的。通常情况下，feature的尺寸要比卷积的尺寸大很多，如果对两者进行快速傅里叶变换的话，得出来的两个矩阵大小不一样，不能进行对应位置相乘。为了可以让他们对应位置相乘，必须要对卷积核进行扩充，将其扩充到feature尺寸大小相同。也正是扩充过程，限制了方法的使用，只有当feature尺寸和卷积核尺寸大小差不多的时候，才会采用这种方法。通常有三种卷积方式：full、same、valid。
深度学习Day-25：Inception-V1算法实战与解析
m0_51359915的博客
07-16 830
Inception v1是一种深度卷积神经网络，该网络的最大特点是使用了Inception模块，该模块通过多种不同的卷积核来提取不同大小的特征图，并将这些特征图拼接在一起，从而同时考虑了不同尺度下的特征信息，提高了网络的准确性和泛化能力。在Inception v1中，Inception模块一般由1x1、3x3和5x5的卷积层以及一个最大池化层组成，同时还会在最后加上一个1x1的卷积层来减少通道数，从而避免参数过多的问题。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值