- 博客(19)
- 收藏
- 关注
RSS订阅原创 Finding Task-Relevant Features for Few-Shot Learning by Category Traversal 论文笔记
前言在采用度量学习处理小样本学习问题中，通过学习查询样本（query）与支持样本（support）之间的特征相似性比较，来确定query的类别。但是这种方法有一个缺点，就是query在与支持集中的样本进行比较时，是一个类一个类的进行比较的，也就是query与支持集中某个类的样本比较完，再与另一个类进行比较，没有考虑整体的关系。这样造成的后果是，不能辨别哪个维度的特征与当前任务是最相关的。本文对...
2020-03-31 21:16:39
1186
1
原创 Baby Steps Towards Few-Shot Learning with Multiple Semantics 论文笔记
前言本文重点关注额外的语义信息对小样本学习的帮助，作者探索了一种更接近人类的学习模式，即为learner提供多种丰富的语义信息。这些语义信息包括：类别标签，"描述级别"的语义信息（一个或一些句子，对类别的自然语言描述），属性等。本文证明了如何使用这些语义信息来帮助小样本学习。人类婴儿在学习新事物时的一个很重要的因素是，在关注一个新事物的同时还要附带一些相关的语义信息。比如，研究表明婴儿的目标识...
2020-03-31 10:05:29
500
原创 Task-Agnostic Meta-Learning for Few-shot Learning 论文笔记
前言最近越来越多的工作使用元学习来处理小样本学习问题。一般来说，元学习模型包括两部分：初始模型和更新策略，其中初始模型是在大量任务上进行训练得到的，更新策略是为了使初始模型能够适应一个只有少量样本的新任务。所以元学习的目标就是，能够自动学习初始模型和更新策略的最优参数，从而使得模型能够泛化到各种其它任务上。然而，现有的元学习方法存在一个普遍问题，就是初始模型在训练时可能对某些任务有偏差，即更偏...
2020-03-26 16:18:42
1086
原创 Low-Shot Learning with Imprinted Weights 论文笔记
前言本文提出了一种叫做imprinting的方法，尝试将卷积网络分类器的最佳属性与embedding结合起来，处理小样本学习问题。作者认为，嵌入向量（embedding vector）可以与卷积网络分类器最后一个线性层的权值相当。imprinting方法就是，根据一个训练样本计算一个新类的embedding，然后将这些embedding进行合适的缩放，作为最后一层的权值，也就是作为该新类的权值，...
2020-03-25 20:58:03
632
原创 Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks Chelsea 论文笔记
前言本文提出了一种元学习算法，它与模型无关并且通用性很强，可以直接应用到各种由梯度下降训练的模型上，并且适用于很多学习问题，包括分类，回归和强化学习。本文提出的算法的关键思想是训练模型的初始化参数，这样当模型在处理来自一个新任务的少量数据时，通过一次或几次梯度更新后，模型就能在新任务中表现出较好的性能。本文的元学习算法有以下特点：不同于以往的元学习方法需要学习更新函数或更新规则，本文的方法既...
2020-03-24 20:13:02
339
原创 Optimization as a model for few-shot learning 论文笔记
前言本文提出了一个基于LSTM的meta-learner模型来学习最优化算法，该算法将用于训练另一个learner分类器（神经网络分类器）。meta-learner捕获了任务中的short-term知识，和所有任务中共有的long-term知识，由meta-learner模型优化的另一个learner分类器在每个任务上都能快速收敛。除此之外，meta-learner模型还学习了适用于其它lea...
2020-03-23 18:18:46
397
原创 Learning feed-forward one-shot learners 论文笔记
前言目前使用最广泛的one-shot learning的方法是，先学习一个深度embedding函数，然后再定义一个简单的分类规则，比如在embedding空间中进行最近邻操作。但是，计算embedding和学习适用于新目标的模型还是相去甚远。本文提出了一种与众不同的方法，仅从一个单一的样本，就能得到一个完整的深度判别模型来识别与该样本属于同一类别的其它目标。而且本文提出的方法并不需要一个冗长...
2020-03-21 15:03:29
1046
原创 Learning to Compare: Relation Network for Few-Shot Learning 论文笔记
前言近年来深度学习模型在视觉任务上取得了巨大的成功，但这种成功有一部分原因来自于庞大的标记数据以及大量的计算资源，这使得这些模型在处理几乎没有标记数据的新类时显得非常乏力。对于我们人类来说，在识别物体时，仅需少量的图像，或者甚至不需要图像而仅仅根据对物体的描述，就能根据以往的知识来识别物体。这是由于我们人类有先验知识，我们会利用自己的先验知识进行学习。如何让模型能够实现这种快速学习呢？元学习（m...
2020-03-19 21:11:20
709
1
原创 Prototypical Networks for Few-shot Learning 论文笔记
前言本文提出了用于few-shot learning的原型网络（prototypical network），它的基本思想是，在一个embedding空间中，每个类都有一个原型表示（prototypical representation），每个类的点都聚集在这个原型表示周围。具体来说就是，通过一个非线性映射将输入映射到一个embedding空间中，提取每个类别中样本的均值（mean）作为该类在em...
2020-03-18 15:23:20
776
原创 Matching Networks for One Shot Learning 论文笔记
前言人类可以从很少的样本中获取新的概念，比如一个小孩儿能从书中的一张图片知道什么是长颈鹿。但是对于深度学习系统来说，要学习一个新的类别需要成百上千的样本。因此对one-shot learning的研究就变得非常重要。什么是one-shot learning呢？也就是让系统能从很小一部分的带标记的样本中学习一个新类别。深度学习一般需要较大型的数据集，当数据集变小时，会产生过拟合问题，数据增强和正...
2020-03-17 12:12:49
366
原创 Towards Adversarially Robust Object Detection 论文笔记
前言许多工作证明分类器在面对对抗攻击（adversarial attack）时是非常脆弱的，比如有一种对抗样本，它只对原图进行很轻微地修改，但是在视觉上与原图相比是完全不同的。因此也有很多工作致力于提升分类器的鲁棒性。最近的一些工作发现，目标检测器也会由于蓄意设计的输入而受到攻击，如下图所示，展示了标准检测器和鲁棒性更强的检测器分别检测clean和adversarial图像的效果，可以看到，标...
2020-03-16 15:13:48
1451
原创 Seeing without Looking: Contextual Rescoring of Object Detections for AP Maximization 论文笔记
前言目前的目标检测器会出现以下问题：NMS操作未能移除重复的检测结果。如下图所示，左：两个关于领带的检测结果，置信度很高，但IoU很低；右：对于图中的目标，检测结果是马和斑马，发生了重叠。一些局部的判断未能充分利用上下文信息，也就是说，一些目标看起来与某个类别很相似，但如果代入目标所处的上下文环境中，会发现该目标完全不可能属于这个类别。如下图所示，左：在钟表里检测出香蕉和雨伞；右：在树的...
2020-03-14 17:10:55
1889
2
原创 Object Instance Mining for Weakly Supervised Object Detection 论文笔记
前言大多数弱监督目标检测（WSOD）采用的框架是将多实例学习（MIL）和CNN结合起来，这种框架通常会将特定于某个类别的具有最高置信度的proposal挖掘出来，以训练基于CNN的分类器，但并不会考虑图像中的目标实例的数量。如果图像中有多个目标实例属于同一类别，那么具有较低置信度的目标实例可能会被认为是背景。而被选择的目标实例的尺度和外观变化都是有限的，因此仅用这些目标实例是无法训练出一个具有强...
2020-03-13 16:59:54
565
原创 Few-shot Object Detection via Feature Reweighting 论文笔记
前言小样本目标检测解决的问题是，在训练一个检测器时，每个目标类别只有一小部分被标记的样本作为训练数据。本文提出了一个以元学习为基础的框架，如下图所示。这个框架的设计思想是充分探索从一些基础目标中学到的知识，从而通过少量样本从新颖类别中检测目标。作者发现在一些具有丰富样本的基础类别上训练以CNN为基础的检测模型时，可以在这个模型的顶层学到特定于某些目标属性的中间特征，这些特征可以隐式组成不同目标的...
2020-03-10 20:47:16
1404
1
原创 soft anchor-point object detection 论文笔记
前言目前的anchor-free检测器可以分为两种类型：anchor-point检测器和key-point检测器。anchor-point：比如DenseBox，UnitBox，FSAF，FCOS等。anchor points其实就是特征金字塔中每个特征图上的像素点，每个像素点所在的位置都有与它相对应的特征，也就是说将这些像素点当作是anchor box。然后根据这些points和这些poi...
2020-03-09 19:12:13
399
原创 Reasoning-RCNN 论文笔记
前言大规模目标检测指的是识别与定位图像中大量的属于不同类别的目标，类别之间的不平衡（有的类别的样本很少）、遮挡、模糊和小目标问题是大规模目标检测面临的主要挑战。当前的很多目标检测方法都是对每个候选区域独立地进行检测，因此需要高质量的特征表示，以及每个类别的充足的标记数据，它们并没有考虑目标之间的语义依赖关系，因此缺乏在常识的帮助下进行推理的能力。上图说明了全局知识推理的一个例子。当一个人看到...
2020-03-06 12:15:29
2395
6
原创 ThunderNet 论文笔记
前言关于实时目标检测，作者提出two-stage和one-stage中存在的问题：two-stage检测器倾向于使用特别复杂的detection head来达到更好的精度，这对于移动设备来说是可望不可及的。Light-Head R-CNN虽然采用了轻量级的detection head以实现实时检测，但它在head上的计算依然比在backbone上的计算要高出不少，这会造成巨大的计算冗余，并且...
2020-03-04 21:56:10
257
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人