A Fast and Accurate Dependency Parser using Neural Networks笔记

最新推荐文章于 2023-02-24 14:11:23 发布
最新推荐文章于 2023-02-24 14:11:23 发布
阅读量258 收藏 5
点赞数 1
分类专栏： 论文 文章标签： 经验分享
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41563265/article/details/107386439
版权
本文提出了一种新的神经网络模型用于依存解析，该模型利用立方激活函数捕获高阶交互特征，提高了解析速度和精度。在实验中，通过对比不同配置，证明了立方激活和预计算嵌入的有效性，尤其是在英文和中文数据集上的表现。
摘要由CSDN通过智能技术生成

一、文章工作

提出了一种新的学习神经网络分类器的方法，用于greedy和transition-based的依存解析器

二、文章贡献

  • 展示了在解析任务中学习到的稠密表示的有效性；
  • 开发了一种具有良好精确度和速度的神经网络体系结构；
  • 引入一种新的神经网络激活函数（cube），能更好地捕获高阶交互特征。

三、基于过渡的依存解析

1.目的：预测从初始状态到最终状态的转换序列，从而生成目标依赖解析树，是使用一系列由初始到最终的状态的表示句法分析的过程。

栈（stack）：存储已经分析过的词；

缓冲（buffer）：待分析的词。

transition的选择是基于当前状态（configuration）的，且是贪心算法，虽然损失了一点准确率，但是大大提升了速度。

2.  状态configuration：c=(s,b,A)，s代表栈，b代表缓冲，A代表当前已经画好的依赖弧集合；

假设一个句子为w_{_{1}},w_{_{2}},…w_{_{n}}.（w_{_{n}}都是句子中的单词）

初始状态：s=[ROOT]，b=[w_{_{1}},w_{_{2}},…w_{_{n}}]，A=\Phi

最终状态：s=[ROOT]，buffer为空

最低0.47元/天 解锁文章
weixin_41563265
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Danqi Chen的A Fast and Accurate Dependency Parser using Neural Networks
03-03
- **标题**：“Danqi Chen的A Fast and Accurate Dependency Parser using Neural Networks” - 该标题明确指出了论文的主题是介绍了一种基于神经网络的快速且准确的依存关系解析器。 #### 描述解读： - **描述**...
【论文解读】A Fast and Accurate Dependency Parser using Neural Networks（基于神经网络的高性能依存句法解析器）
十里清风
06-19 1535
文章目录Transition-based Dependency ParsingNeural Network Based Parser模型输入隐藏激活函数输出层模型训练Reference 代码实现：基于tensorflow 2.2实现，代码见github。 Transition-based Dependency Parsing 从初始状态开始，每步贪婪预测下一步的动作（多分类取分数/概率最高的类别），如转移、生成左弧或右弧，直到所有单词的预测完毕（stack仅含根节点，buffer为空）。 基于贪婪的预测结
依存句法分析—A Fast and Accurate Dependency Parser using Neural Networks
manmanxiaowugun的博客
01-02 4358
一、问题描述 这是一篇使用神经网络来做依存句法分析的经典文章，传统的依存句法分析特征向量稀疏，特征向量泛化能力差，特征计算消耗大，用神经网络做transition-based贪心模型可以缓解上述问题，准确率提高，速度变快。由于源代码是java写的，所以本人看了用tensorflow改写的代码，但是该代码存在一些问题，只预测是LEFT-ARC，RIGHT-ARC，SHIFT中的一种（即三分类），但...
nlp 笔记：A Fast and Accurate Dependency Parser using Neural Networks
weixin_34080571的博客
03-20 745
概要：本文使用神经网络完成了一个快速准确的依存语法分析程序，也就是句子的结构。 introduction： 　　以前的depenency parser效果很好，但是有几个问题： 所用的特征很稀疏，而数据不够训练这些权重。 特征都是人工提取的模版，需要专业知识的情况下还经常不全面。 计算这些特征十分费时。 　　作者想出了一个好方法来解决这些问题，其实我觉得这些都是第...
基于神经网络的依存句法分析
ljj123zz的博客
12-18 5785
论文A Fast and Accurate Dependency Parser using Neural Networks程序注释 最近接触到依存句法分析，参考的是14年Chen&Manning的论文（A Fast and Accurate Dependency Parser using Neural Networks），下载了一个程序（原网址），注释下，当做备忘背景介绍
[论文翻译]A Fast and Accurate Dependency Parser using Neural Networks
qq_36231549的博客
07-25 1312
论文地址：https://cs.stanford.edu/~danqi/papers/emnlp2014.pdf 论文名称：一种使用神经网络（三层）的精准快速的依存句法分析 特征提取是基于Transition-based Dependency Parsing 基于转移的依存句法分析，从而可以有效精简特征数量 例如： 词特征18个： 1、栈区和缓存区分别提取前三个词  合计6个特征 ...
DeepFool: a simple and accurate method to fool deep neural networks.pdf
03-25
根据提供的文件信息，这篇论文的标题是"DeepFool: a simple and accurate method to fool deep neural networks.pdf"，描述是"DeepFool: a simple and accurate method to fool deep neural networks.pdf"，标签是...
Fast and Accurate Calibration of a Kinect Sensor
01-12
al [8] that uses a large number of input frames and multiple iterative minimization steps for obtaining very accurate calibration results. We propose several modifications to this estimation pipeline...
【11】Fast and accurate recurrent neural network acoustic models
08-26
rate lead to more accurate models and faster decoding. CD phone modeling leads to further improvements. We also present initial results for LSTM RNN models outputting words directly. Index Terms: ...
Fast and accurate measurement of large optical surfaces before polishing using a laser tracker
02-08
We present a method that accurately measures large optical surfaces before polishing using a laser tracker. Using the scanning mode of the laser tracker considerably improves measurement efficiency ...
[EMNLP2014]A Fast and Accurate Dependency Parser using Neural Networks
Deep Learning and NLP Farm
09-06 1486
依存树的数据结构表示：用一个例子说明 另外文中用了pre-computation trick， 数据结构的表示以及解释
CS224n-Lecture5-Linguistic Structure Dependency Parsing
咸鱼的小站
07-17 453
综述 Linguistic Structure: Dependency parsing 语言结构：依存句法分析 1. Syntactic Structure: Consistency and Dependency (25 mins) 语法结构：一致性和依赖性 2. Dependency Grammar and Treebanks (15 mins) 依存语法和树库 3. Transition-based dependency parsing (15 mins) 基于转移的依存句法分析 4..
NLP词性分析，实体分析，句法树构造（依存句法树分析）
jiangchao98的博客
07-30 1万+
使用scipy库 和 nltk库进行抽取单词的 词性信息 和 实体信息
Dependency Parser 算法随记1
Michael_liuyu09的专栏
09-05 935
通过采用Bilstm Model 做过了NER 的Case 后，脑子一直盘旋着一个疑问，为什么Parser 不能？今天无意中看到一篇帖子，讲得就是采用Bilstm Model 解决Dependency Parser的问题。
基于转换的神经网络依存句法分析器
littlely_ll的博客
01-06 5326
依存句法分析是自然语言处理中一个关键的问题，一是判断给定的句子是否合乎语法，再是为合乎语法的句子给出句法结构。为了准确做出句子的依存关系，不少学者提出了一些方法，如基于图的方法，基于转换的方法等。 基于转换的依存句法分析 Yamada和Matsumoto提出了使用SVM来训练基于转换的依存分析算法。他们根据三种分析行为（shift, right, left）对输入的句子进行从左到右顺序构建
Dependency Parser研究进展及主流方法
weixin_34186931的博客
03-23 402
提到dependency parser，我们就会想到自然语言处理，而句法分析是自然语言处理领域的一个关键问题，dependency parser作为句法分析中的一个文法体系，近年来，成为研究热点，并且逐渐广泛应用于其他自然语言处理任务中。飞马网于3月21日晚，邀请到上海交大计算机科学与信息硕士，先后在UBS和蚂蚁金服工作过的胡翔老师，在直播中为我们分享关于dependency parser的研究进...
Simple and Accurate Dependency Parsing Using Bidirectional LSTM Feature Representations
u011961856的专栏
01-08 1394
对于句子s，将其分词为n个词wi,每个词wi对应取wi的词性为ti，取向量e(wi)，和词性向量e(ti)，将词向量和词性向量串联得到新的向量xi=concat(e(wi),e(ti))。 BILSTM 向量vi=BILSTM(x_1:n,i)=concat(RNN_F(x_1:i),RNN_R(x_n:i)) 将一小部分的BILSTM 向量vi串联，从而得到特征向量F，实际的特征向量F依赖于
Modelling Context and Syntactical Features for Aspect-based Sentiment论文阅读笔记（ACL2020）
learn more，have more
02-24 668
基于方面的情感分析的上下文和句法特征建模
Stanford-parser依存句法关系解释
热门推荐
不忘初心 方得始终
07-02 3万+
ROOT：要处理文本的语句；IP：简单从句；NP：名词短语；VP：动词短语；PU：断句符，通常是句号、问号、感叹号等标点符号；LCP：方位词短语；PP：介词短语；CP：由‘的’构成的表示修饰性关系的短语；DNP：由‘的’构成的表示所属关系的短语；ADVP：副词短语；ADJP：形容词短语；DP：限定词短语；QP：量词短语；NN：常用名词；NR：固有名词；NT： ROOT：要处理文本的语句 IP：
semantic flow for fast and accurate scene parsing
最新发布
03-16
语义流是一种用于快速准确场景解析的技术。它通过将场景分解成多个语义区域，并将它们连接成一个图形模型，来实现对场景的深入理解和分析。这种方法可以有效地提高场景解析的准确性和速度，为计算机视觉和机器学习等...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值