原型网络学习笔记

目的

为了解决小样本分类问题,提出原型网络。学习一个度量空间,分类可以通过计算到每个类的原型表示的距离来执行,分类器必须泛化到训练集中没有出现的新类。

小样本分类中目前存在的问题以及进展:

分类器必须适应训练集中没有出现的类。训练数据集少,会出现严重的过拟合现象。匹配网络:匹配网络在embedding得到特征向量后,通过引入注意力分析两者的相似性。元学习的训练思想可以很好的把知识迁移到新颖的类。

解决方案:

将support set数据集映射到一个度量空间中,对每个类别中的元素计算中心点,由中心点来代表这个类别。使用神经网络学习输入到嵌入空间的非线性映射,并将类的原型作为其在嵌入空间中的支持集的均值。主要解决过拟合问题。论文表述,距离的选择至关重要,欧式距离效果比余弦相似度好的多。

在supportset中取出一个类别中所有的样本,放入神经网络中,得到m维特征向量,将其累加起来,除所有样本的个数,得到一个平均向量。

 

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值