DL概念之zero-shot learning

Zero-shot learning

      zero-shot learning 指在训练模型时,没有这个类别的训练样本。但是我们可以学习到一个映射/模型X->Y。若此映射/模型足够好的话,我们就可以处理没有看到的类了。 比如,我们在训练时没有看见过狮子的图像,但是我们可以用这个映射得到狮子的特征。一个好的狮子特征,可能就和猫,老虎等等比较接近,和汽车,飞机比较远离。

       感性认识:感性认识的话,虽然我们不知道这东西叫狮子,但是我们可以说出他和谁谁谁像。(生物学家第一次看到鸭嘴兽的感觉。)

       

One-shot learning

One-shot learning 指我们在训练样本很少,甚至只有一个的情况下,依旧能做预测。  如何做到呢?可以在一个大数据集上学到general knowledge(具体的说,也可以是X->Y的映射),然后再到小数据上有技巧的update。

其实Zero/One-shot learning都属于transfer learning/domain adaption,要点在于先学到好的X->Y的关系,希望能应用到其他问题上。

reference:

          https://www.zhihu.com/question/50996014#answer-44952765

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Few-shotZero-shot和Transfer Learning是三种常见的迁移学习方法,可以用于改进DL-AMR方法。 1. Few-shot Learning:Few-shot Learning是指在数据量较少的情况下,通过学习少量的样本数据来完成任务。其核心思想是利用已有的经验来解决新问题。Few-shot Learning的优势在于避免了数据过拟合的问题,同时也可以减少数据的收集和标注成本。Few-shot Learning的方法包括基于相似度的方法、基于生成模型的方法、基于元学习的方法等。 2. Zero-shot LearningZero-shot Learning是指在训练数据中不包含目标类别的情况下,通过学习类别之间的关系来完成分类任务。其核心思想是利用已知类别的属性来推断未知类别的属性。Zero-shot Learning的优势在于可以将已有的知识迁移到未知的领域,从而扩展模型的应用范围。Zero-shot Learning的方法包括基于属性的方法、基于生成模型的方法、基于知识图谱的方法等。 3. Transfer Learning:Transfer Learning是指将已学习到的知识迁移到新的任务中,从而加速新任务的学习过程。其核心思想是利用已有的知识来加速新任务的学习过程。Transfer Learning的优势在于可以减少数据的收集和标注成本,同时也可以提高模型的泛化能力。Transfer Learning的方法包括基于参数的方法、基于表示的方法、基于领域适应的方法等。 综上所述,Few-shot LearningZero-shot Learning和Transfer Learning都是迁移学习方法的重要分支,它们都可以用于改进DL-AMR方法。具体应该根据具体情况选择不同的方法。如果数据量较少,可以考虑使用Few-shot Learning;如果目标类别不在训练集中,可以考虑使用Zero-shot Learning;如果已有大量的训练数据,但是新任务和已有任务有所不同,可以考虑使用Transfer Learning
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值