深度学习: Zero-shot Learning / One-shot Learning / Few-shot Learning

Introduction
在 迁移学习 中,由于传统深度学习的 学习能力弱,往往需要 海量数据 和 反复训练 才能修得 泛化神功 。为了 “多快好省” 地通往炼丹之路,炼丹师们开始研究 Zero-shot Learning / One-shot Learning / Few-shot Learning。

爱上一匹野马 (泛化能力),可我的家里没有草原 (海量数据) 。

Learning类型
分为:
Zero-shot Learning、One-shot Learning、Few-shot Learning、传统 Learning 。

Zero-shot Learning
Zero-shot Learning,零次学习。

成品模型 对于 训练集 中 没有出现过 的 类别,能自动创造出相应的映射: XX -> YY。

既要马儿跑,还 不让 马儿吃草。

One-shot Learning
One-shot Learning,一次学习。

wikipedia:

One-shot learning is an object categorization problem in computer vision. Whereas most machine learning based object categorization algorithms require training on hundreds or thousands of images and very large datasets, one-shot learning aims to learn information about object categories from one, or only a few, training images.

训练集中,每个类别 都有样本,但都只是 少量样本 。

既要马儿跑,还不让马儿 多 吃草。

这里写图片描述
Few-shot Learning
Few-shot Learning,少量学习。

也即 One-shot Learning 。

传统 Learning
即传统深度学习的 海量数据 + 反复训练 炼丹模式。

家里一座大草原,马儿马儿你随便吃。

这里写图片描述

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Few-shotZero-shot和Transfer Learning是三种常见的迁移学习方法,可以用于改进DL-AMR方法。 1. Few-shot Learning:Few-shot Learning是指在数据量较少的情况下,通过学习少量的样本数据来完成任务。其核心思想是利用已有的经验来解决新问题。Few-shot Learning的优势在于避免了数据过拟合的问题,同时也可以减少数据的收集和标注成本。Few-shot Learning的方法包括基于相似度的方法、基于生成模型的方法、基于元学习的方法等。 2. Zero-shot LearningZero-shot Learning是指在训练数据中不包含目标类别的情况下,通过学习类别之间的关系来完成分类任务。其核心思想是利用已知类别的属性来推断未知类别的属性。Zero-shot Learning的优势在于可以将已有的知识迁移到未知的领域,从而扩展模型的应用范围。Zero-shot Learning的方法包括基于属性的方法、基于生成模型的方法、基于知识图谱的方法等。 3. Transfer Learning:Transfer Learning是指将已学习到的知识迁移到新的任务中,从而加速新任务的学习过程。其核心思想是利用已有的知识来加速新任务的学习过程。Transfer Learning的优势在于可以减少数据的收集和标注成本,同时也可以提高模型的泛化能力。Transfer Learning的方法包括基于参数的方法、基于表示的方法、基于领域适应的方法等。 综上所述,Few-shot LearningZero-shot Learning和Transfer Learning都是迁移学习方法的重要分支,它们都可以用于改进DL-AMR方法。具体应该根据具体情况选择不同的方法。如果数据量较少,可以考虑使用Few-shot Learning;如果目标类别不在训练集中,可以考虑使用Zero-shot Learning;如果已有大量的训练数据,但是新任务和已有任务有所不同,可以考虑使用Transfer Learning
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值