Graph-based Dependency Parsing with Graph Neural Networks

最新推荐文章于 2022-04-29 11:00:00 发布
最新推荐文章于 2022-04-29 11:00:00 发布
阅读量530 收藏 4
点赞数 2
文章标签： Graph-based Dependency P ACL2019
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45857509/article/details/103211268
版权
本文探讨了如何使用图神经网络（GNN）来改进基于图的依赖解析，通过GNN学习节点表示以捕捉高阶信息。实验表明，这种方法在PTB和UD2.2数据集上表现有效。
摘要由CSDN通过智能技术生成

目录

前期准备工作

本文概述

​​​实验

总结

前期准备工作

分数函数：给定句子，解析器首先对所有单词对进行评分，以了解它们如何保持有效的依赖关系，然后使用解码器(例如，贪婪、最大生成树)根据分数来生成完整的依存分析树，所以说分数函数是图形分析中的一个关键组成部分.分数函数依赖于单词对的向量表示；

节点表示：节点表示网络的设计是基于神经网络的解析器中的一个关键问题。关于节点表示的两项显著的前期工作是递归神经网络和biaffine mappings，RNN主要收集语句级信息，但表示忽略与依赖关系结构相关的功能，biaffine mappings通过将一个节点设置支配向量和依赖向量来改进RNN的节点向量表示。
 

本文概述

1，基于节点表示的前期准备工作，我们会想要在节点表示中引入更结构化的知识。比如说biaffine mappings可以编码一阶父子关系，那是否可以编码祖父母、子孙、兄弟信息？
2，在本文中引入了GNN来学习依存分析树的节点表示.GNN是以类似增量的方式提取高阶信息：他是基于上一层的输出计算这一层的节点表示。
3，我们使用GNN构建解析模型。我们处理方式区分支配者和从属者,而不是用不同的权重矩阵来表示出边和入边，所以我们要更新节点表示的新协议。

模型构造

最低0.47元/天 解锁文章
小小明呀
关注
  • 2
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
CS224n-06 Dependency Parsing
Thinking data
03-18 1516
06 Dependency Parsing
ACL2019|Graph-based Dependency Parsing with Graph Neural Networks
a609640147的博客
06-22 916
句法分析是自然语言处理领域的一个关键问题，依存句法分析作为句法分析中的一个文法体系，近年来，成为研究热点，并且逐渐广泛应用于其他自然语言处理任务中。文章研究了将高阶特征有效的结合到基于神经图网络(GNN)的依存句法分析。本文并没有显式地从中间解析树中提取高阶特征，而是开发了一种更强大的依存树节点表示，它可以简洁高效地捕获高阶信息，并使用GNN来学习依存树节点表示，并讨论了GNN更新和聚合函数的几种...
[ACL2019]Graph-based Dependency Parsing with Graph Neural networks
Deep Learning and NLP Farm
08-21 877
Dependency Parsing目前有两种做法： (1) Transition-Based (2) Graph-Based 构建树的过程中有三种解码算法： (1) dynamic programming {Three new probabilistic models for dependency parsing: An exploration} (2) maximum spanning tre...
句法分析方法transation based dependency parsing和graph based parsing
fkyyly的专栏
04-24 1379
句法分析的几种主要方法： Deterministic parsing（specifically ： Transition-based parsing） Dynamic programming（specifically ： Graph-based parsing） Constraint satisfaction 1 什么是Transition-based基于转移的框架？ （1）队列I存放句...
【神经网络】Dependency Parsing的两种解决方案
jcoiwenwfkowe的博客
07-17 68
【神经网络】Dependency Parsing的两种解决方案
2019-Session-based Recommendation with Graph Neural Networks.pdf
01-14
2019-Session-based Recommendation with Graph Neural Networks
Graph-Based-Blind-Image-Deblurring-master.rar_ImageProcessing_bl
07-14
这个项目源自于名为“Graph-based Blind Image Deblurring from a Single Photograph”的学术文献，其提供了相关的源代码，使得研究者和开发者能够理解和实践这一图像恢复技术。 图像去模糊是计算机视觉和图像处理...
图像分割—基于图的图像分割（Graph-Based Image Segmentation）C++源代码
12-28
C++版源代码，分享给大家，Graph-Based Segmentation 是经典的图像分割算法，作者Felzenszwalb也是提出DPM算法的大牛。该算法是基于图的贪心聚类算法，实现简单，速度比较快，精度也还行。
Graph-Based Semi-Supervised Learning
01-09
While labeled data is expensive to prepare, ever increasing amounts of unlabeled data is becoming ...different applications where graph-based SSL methods have been successfully applied.
（ 源代码）GMC: Graph-based Multi-view Clustering
03-19
GMC: Graph-based Multi-view Clustering 源代码
dependency parsing的两种解决方案
Deep Learning and NLP Farm
07-09 3848
Transition-based的依存解析方法 解析过程：首先设计一系列action, 其就是有方向带类型的边，接着从左向右依次解析句子中的每一个词，解析词的同时通过选择某一个action开始增量构建依存树, 直到句子中的词解析完． 优点：解析过程是线性的 挑战：在解析的每一步都只是利用局部信息，会导致错误传播，性能比graph-based效果略差 目前工作： Graph-bas...
GNN:Session-based Recommendation with Graph Neural Networks简介
loserChen的博客
03-17 5276
Session-based Recommendation with Graph Neural Networks 摘要 作者提出SR-GNN,将session序列建模为图结构数据。在session图的基础上，GNN可以捕捉到items的复杂转换。每一个session利用注意力机制将整体偏好与当前偏好结合进行表示。 介绍 作者diss了 基于马尔可夫链的工作非常依赖数据独立性的假设的。 利用RNN的...
Dependency Parser研究进展及主流方法
weixin_34186931的博客
03-23 397
提到dependency parser，我们就会想到自然语言处理，而句法分析是自然语言处理领域的一个关键问题，dependency parser作为句法分析中的一个文法体系，近年来，成为研究热点，并且逐渐广泛应用于其他自然语言处理任务中。飞马网于3月21日晚，邀请到上海交大计算机科学与信息硕士，先后在UBS和蚂蚁金服工作过的胡翔老师，在直播中为我们分享关于dependency parser的研究进...
Transition-based Parsing 简介
老哥的专栏
12-31 5732
句法分析的几种主要方法： Deterministic parsing（specifically ： Transition-based parsing） Dynamic programming（specifically ： Graph-based parsing） Constraint satisfaction这里主要介绍一下Transition-based parsing 首先他所采取的数据
NLP：依存分析
Puzzle的博客
03-31 5514
前言 自然语言处理任务中，有很重要的一块，就是分析语言的结构。语言的结构，一般可以有两种视角： 1. 组成关系（Constituency） 句法结构分析（syntactic structure parsing），又称短语结构分析（phrase structure parsing），也叫成分句法分析（constituent syntactic parsing）。作用是识别出句子中的短语结构以及短语之间的层次句法关系。 2. 依赖关系（Dependency） ...
什么是双线性映射（Bilinear Mapping ）?
热门推荐
程序猿视角
07-29 1万+
在数论中，一个双线性映射是由两个向量空间上的元素，生成第三个向量空间上一个元素之函数，并且该函数对每个参数都是线性的。最简单的例子： xy→z,x,y∈R xy \to z, x,y \in R xy→z,x,y∈R 1. 双线性映射 设 V,WV,WV,W 和 XXX 是在同一个基础域F上的三个向量空间。双线性映射是函数： B:V×W→X B:V \times W\to X B:V×W→X 使得对于任何 WWW 中 www，映射 v↦B(v,w ) v\mapsto B(v,w ) v↦B(v,w ) 是
BERT+Biaffine结构中文NLP地址要素解析
datayx的文章
04-29 3925
向AI转型的程序员都关注了这个号????????????机器学习AI算法工程 公众号：datayx人类的活动离不开位置，从空间上可以表征为坐标，从文本上表征为通讯地址。通讯地址广泛存在于电商物流、政府登记、金融交通等领域。对通讯地址的分析、聚合服务已经是一项重要基础服务，支撑着诸多互联网场景，比如地图搜索、电商物流分析等。实际应用中，地址文本存在写法自由、缺省别名多、地域性强等特点，对...
自然语言处理：依存句法解析（Dependency Parsing）
十里清风
04-29 8538
文章目录Phrase Structure GrammarsDependency StructureDependency Grammar and Dependency StructureGreed Transition-Based ParsingWhy train a neural dependency parser? What kind of structures do human languag...
Pytorch LSTM 代码解读及自定义双向 LSTM 算子
生命在于折腾！
07-13 4284
Pytorch LSTM 代码解读及自定义双向 LSTM 算子 1. 理论 关于 LSTM 的理论部分可以参考 Paper Long Short-Term Memory Based Recurrent Neural Network Architectures for Large Vocabulary Speech Recognition 解析 Understanding LSTM Networks 人人都能看懂的LSTM Pytorch LSTM 算子 LSTM 文档 2. 源代码 python
STA中的Graph-Based Analysis
最新发布
07-20
STA中的Graph-Based Analysis是指基于图结构的分析方法。在软件测试中，STA（Software Testing and Analysis）是一种用于发现和解决软件中的错误和缺陷的技术。图结构在STA中被广泛应用，用于表示软件系统的静态结构...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值