Zero-shot learning（一）： 基本概念

已于 2022-03-14 23:02:20 修改
阅读量958 收藏
点赞数 1
分类专栏： zero-shot learning 文章标签： 机器学习 深度学习 人工智能
于 2022-03-08 22:14:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43377337/article/details/123362957
版权

Zero-shot learning（一）： 基本概念

文章目录

本篇文章主要针对我自身关于ZSL一些基本概念的理解，这些理解，都是经过我自身阅读一些文章，看过别人文章之后的总结，所以在理解上可能会有一些偏差，非常希望能够和大家一起进行交流。

本文旨在介绍 ZSL 的基本概念，帮助大家快速了解ZSL。

1. ZSL的基本思想

1.1 ZSL 的经典解释

      说到ZSL，一个经典的解释就是小明认识斑马的过程，在这里通过引用知乎上的一篇文章进行解释（这篇也是所能搜到的关于ZSL经典解释的比较详细的文章）给出链接：
--------- https://zhuanlan.zhihu.com/p/34656727?spm=5176.9876270.0.0.399ce44aXsg7cN
ZSL的经典解释。
      在小明去动物园之前，小明已经了解马，老虎，熊猫和企鹅的具体形状，但是小明没有见过斑马。有次在去动物园之前，小明的爸爸告诉他，斑马有着马的轮廓，老虎的条纹，而且条纹是黑白相间的。根据以上信息，小明在动物园中很快找到了斑马。
      上述小明找斑马的过程，是典型的人类根据已有的先验知识进行推理来得到斑马的过程。ZSL 就是希望能够训练一个模型，该模型有着像人类一样的推理能力，使得计算机能够认识新生事物。

1.2 ZSL 为什么会提出

      虽然近年来基于监督学习的大规模分类方法通过深度学习取得了显著的成功，但监督学习下的方法存在一定的限制。在监督分类中，

  1. 每个类都需要有足够的带标签的训练实例，
  2. 学习后的分类器只能对属于训练数据所覆盖的类的实例进行分类。

然而，为不断增大的类别进行收集和标注大量的训练数据是费时和昂贵的。相比之下，人类可以识别大约3万个类别，并具有基于以往经验学习新概念的非凡能力，而无需提前看到它们。从这种人的非凡能力出发，ZSL被提出了。

2. ZSL 的基本概念定义

2.1 问题定义

      对ZSL问题，其实主要是：能够用一部分数据（训练集-可见类）和该数据一些辅助信息来训练一个模型，然后利用该模型对不属于训练集类别的数据进行测试，即让模型能够利用辅助信息（对应于人类的先验知识），对他所没见过的类别进行准确的分类。
      针对基本思想分为：可见类（seen classes）和不可见类（unseen calsses），其中辅助信息为类别的属性信息。

     具体定义如下：

设数据集$$是一个含有 个不同类别的数据集。其子集 由 种可见类样本所构成，子集 是由 种不可见类样本所构成，且两个子集互补，即 及 。对于可见类集合 ，它包含了 种类别的 个样本。集合中的第 个样本的 表示该样本的一个 维视觉特征向量。设 为第 个样本的类别标签，则对于每一个样本所属类别来说还存在着一个描述其视觉特征的 维语义属性向量 。同样的，对于包含 个类别共 个样本的不可见类集合有 。其中 表示该集合中第 个样本的 维视觉特征向量， 则表示第 个样本的类别标签， 表示第 个样本所属类别的 维语义属性信息。

2.2 如何进行具体实现

      ZSL思想的具体实现在于学习语义空间（属性信息-attribute）和视觉空间(特征-feature)之间的映射。将深度模型提取的图像特征嵌入到视觉空间中。语义空间将可见类和不可见类的先验经验嵌入到高维向量中 (简单理解就是：图像通过深度模型提取出来的特征嵌入到视觉空间–其实就是特征；前面提到的先验知识就是属性信息，即某一类别的具体属性描述信息)。通过语义空间和视觉空间的映射，ZSL可以将从可见类获得的知识转移到不可见类。换句话说，ZSL使用语义信息来弥合可见类和不可见类之间的鸿沟 (因为语义信息既包含可见类的语义信息，也包含不可见类的语义信息，通过语义信息来将可见类和不可见类联系起来) 。

3. ZSL 的基本方法

      主要方法分为两类：以嵌入为基础的方法和以生成为基础的方法。

3.1 以嵌入为基础

      从基本概念，基本形式等入手

3.2 以生成为基础

4. ZSL 所遇到的一些问题

主要参考文章：

[1] https://zhuanlan.zhihu.com/p/34656727?spm=5176.9876270.0.0.399ce44aXsg7cN
[2] A Review of Generalized Zero-Shot Learning Methods (Farhad Pourpanah, Moloud Abdar, Yuxuan Luo, Xinlei Zhou, Ran Wang, Chee Peng Lim, Xi-Zhao Wang)

zh-yi
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
Zero-Shot-Learning:〜ZJU AI竞赛的ZeroShot学习（GAN方法）
05-17
帕萨斯零射击学习！ 在该项目中，目标是使用可见类别的属性来识别看不见的图像类别。 这是2018年ZJU AI挑战零发学习竞赛的Parsian项目。 比赛吸引了来自全球的3225支队伍参加比赛。 我们的团队“ Parsian”在...
Zero-Shot Learning零样本学习 入门 基本概念
River_J777的博客
12-19 1580
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
A Review of Generalized Zero-Shot Learning Methods
kuxingseng123的博客
11-23 782
先将前面的方法都搞透彻，全部将其搞完整都行啦的理由与打算。再接着搞其他的方法，将其全部搞完整都行啦的理由
深度学习中的Zero-shot（零次学习）
最新发布
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
11-22 5251
Zero-shot学习（ZSL）是机器学习领域的一种先进方法，它旨在使模型能够识别、分类或理解在训练过程中未见过的类别或概念。这种学习方法对于解决现实世界中常见的长尾分布问题至关重要，即对于一些罕见或未知类别的样本，传统的监督学习方法可能难以处理。
Zero-Shot, One-Shot, and Few-Shot Learning概念介绍
weixin_42010722的博客
06-13 8156
本文将介绍零样本学习、一次样本学习和少样本学习的概念，它们使得机器学习模型能够在仅有有限数量的示例情况下对对象或模式进行分类和识别。在机器学习中，我们通常需要大量的训练数据来训练模型，以便它能够准确地识别和分类新的输入。然而，在现实世界中，获取大规模标记数据集可能是昂贵和耗时的。因此，零样本学习、一次样本学习和少样本学习等技术应运而生，它们旨在解决这个问题。
zero-shot, one-shot和few-shot
薰珞婷紫小亭子的博客
07-05 8911
zero-shot, one-shot和few-shot
Zero Shot | 一文了解零样本学习
热门推荐
zenRRan的博客
01-11 1万+
每天给你送来NLP技术干货！来源｜知乎 作者｜恒大大地址｜https://zhuanlan.zhihu.com/p/142057964报道｜人工智能前沿讲习网上有一些关于零样本学习的讨论...
Relative-Attributes-Zero-Shot-Learning:用于图像分类和零镜头学习的视觉相对属性的Python实现
05-13
相对属性 用于图像分类和零镜头学习的视觉相对属性的Python实现 描述 此实现引用论文“ Relative Attributes, D. Parikh and K. Grauman, International Conference on Computer Vision (ICCV), 2011 。...
Awesome-Zero-Shot-Learning:根据不同的算法，收集了一系列全新的ZSL方法
05-05
很棒的零射学习 零射击学习资源的集合。 为什么很棒的零射学习？ 零射击学习旨在识别可见或不可见类中的样本，这些样本可应用于图像分类，对象检测和语义分割。 这是我在零射击学习中学习绳索时所精选的论文和资源...
元学习综述，meta learning，A Survey of Zero-Shot Learning + poster
07-09
零样本学习（Zero-Shot Learning）是元学习的一个重要应用领域，它挑战了机器学习的传统边界，目标是让模型在没有看到过任何特定类别的实例时，也能识别这些类别。这通常通过利用类别之间的语义关系，如预先定义的...
Episode-Based Prototype Generating Network for Zero-Shot Learnin
12-13
在"Episode-Based Prototype Generating Network for Zero-Shot Learning"这篇论文中，作者提出了一种新的训练框架，用于解决零样本学习（ZSL）中的挑战。这个框架基于episode训练，每个episode模拟一个零样本分类...
Zero-shot Learning学习笔记
爱学习爱运动的专栏
11-01 692
Zero-shot Learning学习笔记
入门必读 | 超详细的零次学习（Zero-Shot Learning）入门
CV_Autobot的博客
12-14 2199
作者|两太阳的栗子社长 编辑|汽车人原文链接：https://zhuanlan.zhihu.com/p/34656727点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【目标检测】技术交流群零次学习（zero-shot learning）基本概念 每次在实验室做工作汇报的时候，总会把ZSL的基本概念讲一遍，但是每次的效果都不是很好，工作都讲完了，...
Zero shot learning
qq_51143009的博客
12-02 3253
Zero shot learning 主要考察的问题是如何建立语义和视觉特征的关系（视觉特征一般用预训练好的CNN提取特征，不再进行fine-tine） 为了预测从未在训练集上出现的目标种类，仿照人的思维迁移，能根据某些特征描述（他和谁长得像，有点类似于科学家第一次看见鸭嘴兽的感觉），猜测一个从未见过的目标种类。 Zero shot learning:假设斑马是未见过的类别，但根据描述和过去知识的印象即马（和马相似）、老虎（有条纹）、熊猫（颜色）相似进行推理出斑马的具体形态，从而能对新对象进行辨认。 零
Zero-Shot、One-shot、Few-Shot 的简介
TFATS的博客
09-20 3162
所以模型需要知道的信息是马的样本、老虎的样本、熊猫的样本和样本的标签，以及关于前三种动物和斑马的描述。”然后，爸爸给小明安排了一个任务，让他在动物园里找一种他从没见过的动物，叫斑马，并告诉了小明有关于斑马的信息：“斑马有着马的轮廓，身上有像老虎一样的条纹，而且它像熊猫一样是黑白色的。如今十分火热的纯监督模型往往需要足够多的样本才能训练出足够好的模型，并且用熊猫训练出来的分类器，只能对熊猫进行分类，其他物种都无法识别，也无法进行特征的综合推理，这样的模型功能还有待完善。
Zero-shot learning（零样本学习）
weixin_30341735的博客
07-07 1633
一、介绍 在传统的分类模型中，为了解决多分类问题（例如三个类别：猫、狗和猪），就需要提供大量的猫、狗和猪的图片用以模型训练，然后给定一张新的图片，就能判定属于猫、狗或猪的其中哪一类。但是对于之前训练图片未出现的类别（例如牛），这个模型便无法将牛识别出来，而ZSL就是为了解决这种问题。在ZSL中，某一类别在训练样本中未出现，但是我们知道这个类别的特征，然后通过语料知识库，便可以将这个类别识别出来。 ...
什么是零次学习（zero-shot Learning）篇一
DavenDW
08-14 1万+
最近再进行Zero-Shot Learning关于知识图谱嵌入的研究，这篇文章开始将会从调研Zero-Shot Learning开始逐步记录整个类似问题做知识嵌入的研究过程。 本章80%翻译自一个公开的科学散记 也有本小弱观看去年CVPR的tutorial的个人见解，更多思考会在之后详细说明。 Introduction 在过去的几十年里，机器变得更加智能，但如果没有将机器所见训练...
An Empirical Study and Analysis of Generalized Zero-Shot Learning for Object Recognition in the Wild
weixin_40015791的博客
03-20 1026
An Empirical Study and Analysis of Generalized Zero-Shot Learning for Object Recognition in the Wild 全文翻译，核心名词依然用英文表示 哪里翻译的不好请多多指教：） 野外目标识别广义零样本学习的实证研究与分析 摘要 零样本学习(ZSL)方法已经在假设测试数据仅仅来自于未知类别的不符合现实情...
零样本学习综述 Zero-Shot Learning（二）：基于知识图谱的零样本学习 (Graph-based Zero-Shot Learning)
明远
05-13 5584
现有的视觉图像分类、目标检测、场景识别等技术大多基于监督学习，这些方法和技术需要进行大量的数据标注工作，对有标签的数据集进行人工智能算法的训练，得到相应的算法模型。但是仅仅是人类可识别的物体种类大约就有 3 万类，并且在不同场景下物体的状态不同，所得到的数据量及其庞大，要对如此多的图像进行类别数据标注极其费力。与此同时生活中的物体种类、生活场景等也在不断增长，数据也在不断增多，如何处理标注数据完全缺失的情景，是人们急需解决的一个问题，，在现实需求和技术发展的推动下，零样本学习逐步成为一个热门的研究方向。 零
Synthesized Classifiers for Zero-Shot Learning
07-14
Synthesized Classifiers for Zero-Shot Learning（零样本学习的合成分类器）是一种用于解决零样本学习问题的方法。在传统的分类任务中，我们通常有大量的标记样本来训练分类器。但在零样本学习中，我们面临的挑战是...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

zh-yi

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值