论文笔记丨Multi-Level Matching and Aggregation Network for Few-Shot Relation Classification

最新推荐文章于 2022-06-16 17:48:03 发布
最新推荐文章于 2022-06-16 17:48:03 发布
阅读量671 收藏
点赞数 1
文章标签： 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u011150266/article/details/116192751
版权
本文介绍了多级匹配和聚合网络（MLMAN）在小样本关系分类任务中的创新方法。该模型利用CNN作为encoder，通过局部匹配网络与注意力机制结合，以及实例匹配和聚合，计算类原型。此外，还设计了辅助损失函数以优化模型性能。实验结果显示，MLMAN在FewRel数据集上表现出优秀性能，并进行了消融实验验证其组件的有效性。
摘要由CSDN通过智能技术生成

作者：魏启凯 单位：燕山大学

在这里插入图片描述

论文：https://arxiv.org/pdf/1906.06678.pdf
code：https://github.com/ZhixiuYe/MLMAN
来源：ACL2019

创新：

  1. 提出一种多级匹配和聚合网络，以交互的方式来encode查询集实例和类原型。
  2. 设计了一种辅助loss function。

问题定义：
小样本任务是最近两年流行起来的任务，训练集和测试集均分支持集和查询集。
5-way 1-shot
支持集5个类，每个类1个样本，用来训练模型，利用查询集的一个句子来计算其属于支持集中5个类别之一。

MLMAN模型
在这里插入图片描述

其中，encoder是利用CNN来做，
Local Matching and aggregation是一个局部匹配网络，输入K个支持集实例和

最低0.47元/天 解锁文章
期待成功
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Few-shot learning
EmoC的博客
11-14 384
Generals为什么一个概率分布的entropy的mean需要足够小？2 branchProcess数据gradients为什么AirDet 不需要 fine tune?为什么要fine tune?SCS module 是怎么从cross-scale relations里提取multi-scale feature的？组成用处class prototype 用在head哪里？怎么通过multi-shot support feature 得到class prototype。
AAAI 2022 论文列表
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
Multi-Level Matching and Aggregation Network for Few-Shot Relation Classification
breeze21的博客
06-16 522
本文提出了一种用于少样本关系分类的多级匹配和聚合网络（MLMAN）。 先前关于该主题的研究采用原型网络，它独立计算查询实例的嵌入向量和每个支持集的原型向量。 相比之下，我们提出的 MLMAN 模型通过在本地和实例级别考虑它们的匹配信息，以交互方式对查询实例和每个支持集进行编码。 每个支持集的最终类原型是通过对其支持实例的表示进行注意聚合（attentive aggregation）获得的，其中权重是使用查询实例计算的。 实验结果证明了我们提出的方法的有效性，在 FewRel 数据集上实现了新的最先进的性能。
CovaMNet_Train_5way1shot py 程序分块儿解读
Auzzer的博客
04-07 679
CovaMNet_Train_5way1shot.py 程序分块儿解读 import 部分 基本import import argparse import os import random import shutil import numpy as np import torch import torch.nn as nn import torch.nn.parallel import torch.backends.cudnn as cudnn import torch.optim as optim imp
通过对比实现少样本或零样本学习Learning to Compare: Relation Network for Few-Shot Learning
qq_24305433的博客
04-24 2万+
一、简介最近偶然间看到一篇解读CVPR中Learning to Compare: Relation Network for Few-Shot Learning这篇论文（https://arxiv.org/abs/1711.06025）的文章（http://www.gzhshoulu.wang/article/1926990），感觉非常有意思。大家都知道，近年来深度学习之所以取得如此大的成功，主要在...
（更新中）【NLP | 关系抽取】阅读总结2019年
kinggerui的博客
06-11 744
【NLP | 关系抽取】阅读总结2019年(不定期更新) 写在前面： 几个月以来读了一些论文，但总结工作并不到位，反思了一下还是决定拾起来博客重新记录总结整理的过程，愈加意识到学习过程中的总结十分重要，时刻对自己保持高水准的要求才有进步的空间，学无止境，以此自勉！ 目录【NLP | 关系抽取】阅读总结2019年(不定期更新)ACL[1] ARNOR: Attention Regularization based Noise Reduction for Distant Supervision Relation
基于视觉的机器人抓取: 论文及代码(Vision-based Robotic Grasping: Papers and Codes)
dsoftware的博客
10-22 2万+
最近总结了基于视觉的机器人抓取的相关论文及代码，同步于github。根据抓取的类别，基于视觉的机器人抓取可以分为两类：2D平面抓取以及6D空间抓取。这个页面总结了近年来涉及到的各种各样的方法，其中大部分都使用了深度学习。总结的中文框架结构如下： 0.综述论文 1. 2D平面抓取 这类方法将抓取，用平面内旋转的矩形框表示； 1.1基于RGB或者RGB-D的方法 采用基于目标检测类的方法，直接得到2D...
【论文阅读笔记】NeurIPS2020文章列表Part1
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
小样本学习（few-shot learning）之——原形网络（Prototypical Networks）
m0_38031488的博客
12-27 4万+
Prototypical Networks for Few-shot Learning 摘要：该文提出了一种可以用于few-shot learning的原形网络（prototypical networks）。该网络能识别出在训练过程中从未见过的新的类别，并且对于每个类别只需要很少的样例数据。原形网络将每个类别中的样例数据映射到一个空间当中，并且提取他们的“均值”来表示为该类的原形（prototy...
基于飞桨复现 CVPR2018 Relation Net小样本学习
人工智能研习社
12-10 673
基于飞桨复现 CVPR2018 Relation Net小样本学习 Relation Net 是 CVPR2018的一篇论文，论文链接：https://arxiv.org/abs/1711.06025。 深度学习在视觉识别任务中取得巨大的成功，文章作者指出训练模型需要大量标注过的图片，同时需要迭代多次去训练参数。每当添加新的物体类别需要花费时间去标注，同时有一些新兴物体类别和稀有物体类别可能根本不存在大量的标注过的图片。而人类是只要很少的认知学习就可实现小样本（FSL）和无样本学习(ZSL)。作者举了一个
当小样本遇上机器学习 fewshot learning
热门推荐
mao_feng的博客
12-30 9万+
引言深度学习(deeplearning)已经广泛应用于各个领域，解决各类问题，例如在图像分类问题下，如图1，区分这10类目标的准确率目前可以轻松做到94%。然而，deeplearning是一种datahungry的技术，需要大量的标注样本才能发挥作用。图1 现实世界中，有很多问题是没有这么多的标注数据的，获取标注数据的成本也非常大，例如在医疗领域、安全领域等。因此，我们现在讨论的是...
notes of paper: Learning to Compare: Relation Network for Few-Shot Learning
dianqin1892的博客
05-22 133
words: conceptually　　adv　　概念地 training end-to-end from scratch　　从头开始训练 meta-learning　　元学习 unified　　adj　　统一的 scalability　　n　　可扩展性 emerging　　作adj时　　新出现的 stripy　　adj　　有条纹的 resurgence　　n　　(中断...
小样本学习遇上机器学习--------随笔记录
hx14301009的博客
03-30 2万+
本文转载自maofeng大神写的很好的概述https://blog.csdn.net/mao_feng/article/details/78939864#comments     深度学习(deep learning)已经广泛应用于各个领域，解决各类问题，例如在图像分类问题上，如图1，区分这10类目标的准确率目前可以轻松做到94%。然而，deep learning是一种data hungry...
Few-shot Learning with Meta Metric Learners
han jan的博客
03-31 762
一、介绍 现有的基于元学习、度量学习的小样本学习方法在处理diverse domains和various classes上存在局限。元学习训练一个meta learner预测具有相同结构，但针对不同任务网络的权重。度量学习针对不同任务学习一个不随任务改变，适应所有任务的度量。当任务间差异较大时，度量学习将会失败，学不到这样的度量。作者提出了一个元度量学习的方法，利用度量学习的匹配网络作为base...
NLP中的关系抽取方法归纳
nstarLDS的博客
04-03 5635
本文是阅读完娄杰所写NLP中的实体关系抽取方法总结一文之后，摘录其中部分段落，结合自己对信息抽取工作的理解，作出的一些补充。 前言 说到信息抽取，不得不提的就是实体关系抽取(Entity and Relation Extraction)，实体关系抽取是信息抽取的关键任务之一。本文也将主要围绕这个关键任务进行讨论。实体关系抽取任务是一个级联任务，分为两个子任务：命名实体识别（NER）和关系抽取（RE...
《Dual Attention Networks for Multimodal Reasoning and Matching》
黄鑫的博客
08-16 1739
Dual Attention Networks for Multimodal Reasoning and Matching CVPR 2017 图文匹配终极问题是整个Text与整个Image的匹配问题，但是这个问题比较难以解决，所以一个最基本的想法就是把这个问题拆分开来，Text由不同的单词构成，Image由不同的区域构成，如果能把Text的单词与Image的区域进行一个匹配，那么这个问题就会...
高效准确的Semi-Global Matching: 基于Mutual Information的立体匹配方法
本文主要探讨了精确立体匹配（Stereo Matching）的关键目标，特别是关注对象边界处的精度、对录制或光照变化的鲁棒性以及计算效率。作者提出了一个名为" Semi-Global Matching (SGM)"的方法，该方法专注于像素级别的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值