loganzha-CSDN博客

原创论文笔记-AAAI21@基于自监督学习和多任务学习的多模态表示

论文信息论文全名Learning Modality-Specific Representations with Self-Supervised Multi-Task Learning for Multimodal Sentiment Analysis论文会议：AAAI2021论文地址https://ojs.aaai.org/index.php/AAAI/article/view/17289/17096代码地址https://github.com/thuiar/Self-MM论文背景这篇论

2021-06-25 10:25:23 1196

原创机器翻译与高级循环神经网络LSTM,GRU

前言这篇博文是笔者之前上自然语言处理课程的笔记机器翻译概述机器翻译就是将一种语言翻译为另一种语言。所有机器翻译系统本质上都是基于统计的，我们将总尝试使用非常大的语料库，一般称为平行语料库。在语料库中，有许多句子或段落以不同语言表述。深度学习出现之前的机器翻译模型一、模型概述1.源语言f:法语2.目标语言e：英语3.模型的概率规则基于贝叶斯公式，普通的贝叶斯公式如下：而模型中的规则对贝叶斯公式进行了修改，去掉了右侧的分母部分，模型的概率规则如下所示：可以看出虽然去掉了右侧的分母部分，但

2021-02-25 19:51:21 753

原创依存分析

前言这篇博文是笔者之前自然语言处理课程CS224的笔记短语结构短语结构的目的是将单词组织成嵌套的成分。基本思想是句子和句子的一部分有一种特殊的结构，人们可以用特定的方式将他们组合起来。之前人们想做的是描述人类语言结构，人们过去有2个关键工作来做到这点。(1)一种方法就是编译原理课上学过的乔姆斯基谱系中的上下文无关文法(A->aB|a)。(2)还有另一种理解句子结构的方法叫依存句法结构，通过找到句子当中每个词所依赖的部分来描述句子结构。例如：barking dog中barking依赖于dog，

2021-02-25 19:42:44 925

原创 NLP中的CNN

前言这篇博文是笔者之前学习自然语言处理课程CS224的笔记，首发于公众号:NLP学习者从RNN(循环网络)到CNN(卷积网络)虽然已经学习了多个循环神经网络，但是实际上，循环神经网络不擅长于短语，因为RNN总是将整个句子输入到LSTM中，并且在RNN的最终向量中最后一个单词往往起了很大作用。CNN的想法是从一定长度的序列中同时计算他们的表示。例如有句子“tentative deal reached to keep government open”，如果取3为序列大小，可以得到5个子序列:tentat

2021-02-25 16:11:52 649

原创机器翻译(NMT)与注意力Attention模型

前言本篇博文是笔者学习自然语言处理课程的笔记，首发于公众号NLP学习者机器翻译模型首先简单回顾一下之前说的机器翻译模型，一般的机器翻译模型都由encoder与一个decoder组成，模型图如下：注意力模型Attention如果考虑普通的encoder-decoder模型，我们将会遇到这样的问题，即decoder只接受encoder的最后一个输出作为decoder的输入，所以我们需要在整个解码过程中都依赖这个Y。这确实是一个难题，人们发现在这些早期神经机器翻译系统中只有短句表现得好，但是如果你使用

2021-02-25 15:38:10 1266

原创 RNN与语言模型

前言本文是笔者学习自然语言处理课程CS224的笔记，首发于公众号:NLP学习者语言模型的定义语言模型是给一个句子分配概率的任务，例如：看到"The lazy dog barked loadly"的概率有多大呢？语言模型对机器翻译有用，比如在单词顺序的选择问题上，语言模型得到句子"the cat is samll"的概率应该大于"small the is cat"的概率。传统的语言模型当前很难为所有可能的语序计算出精确概率，所以通常会尝试根据它前面的n个单词预测下一个单词。这属于一个相对简单的马尔

2021-02-25 15:32:13 467

原创词向量模型W词向量模型Word2Vecord2Vec

前言本文是之前学习自然语言处理课程CS224课程的笔记。首发于公众号"NLP学习者"简介想要处理文本首先就要将单词表示成计算机可以处理的格式，表示的方法一般有两种，一种是one-hot编码，另一种是分布式表示，分布式表示涉及从单词个数维度的空间到具有更低维度的连续向量空间的数学嵌入。本篇博文介绍的word2vec就是一种分布式表示，word2Vec尝试去做的是利用语言的意义理论，根据一个单词来预测预测其周围的词，或者根据一个单词周围的词来预测中心单词。1.两种算法Skip-grams(SG)Co

2021-02-25 15:26:03 385

原创 NLPCC20@基于图注意网络的句子成分感知细粒度情感分析模型SCAN

论文信息论文全名Sentence Constituent-Aware Aspect-Category Sentiment Analysis with Graph Attention Networks论文会议：NLPCC2020论文地址https://arxiv.org/abs/2010.01461论文代码https://github.com/l294265421/SCAN论文背景这篇论文的研究领域是自然语言处理(NLP)中的细粒度情感分析ACSA(aspect category sent

2021-02-24 11:52:53 728 2

原创 EMNLP19@结合的语义依存关系与图卷积神经网络GCN的细粒度情感分析模型CDT

论文信息论文全名Aspect-Level Sentiment Analysis Via Convolution over Dependency Tree发表会议：EMNLP2019论文链接https://www.aclweb.org/anthology/D19-1569.pdf论文背景这篇论文的研究领域是自然语言处理(NLP)中的aspect term sentiment classification(ATSC)领域。这篇论文的创新点是探索了将与神经网络相结合的语义依存关系树应用于表示学习的

2021-02-24 11:38:04 1004

原创 ACL20@结合GCN和transformer的细粒度情感分类模型DGEDT

论文信息论文全名Dependency Graph Enhanced Dual-transformer Structure for Aspect-based Sentiment Classification发表会议 ACL2020论文地址https://www.aclweb.org/anthology/2020.acl-main.588/论文代码https://github.com/tomsonsgs/DGEDT-senti-master论文背景这篇论文的研究领域是自然语言处理(NLP)中

2021-02-24 11:17:25 3262 4

原创 SemEval2014-task4 Aspect based Sentiment Analysis(ABSA)介绍

前言Aspect based Sentiment Analysis(ABSA)任务中，大部分论文都用到了SemEval2014中的数据，这里总结介绍一下SemEval2014-task4。SemEval简介SemEval是国际语义评测大会，是全球范围内影响力最强、规模最大、参赛人数最多的语义评测竞赛。SemEval2021比赛官网入口Task描述SemEval2014-task4 ABSA任务关注的领域是NLP中的细粒度情感分析，即给定一个句子判断其中的aspect以及它的情感极性。数据是基于l

2021-01-18 22:06:27 2460

原创阅读笔记Syntax-Aware Aspect Level Sentiment Classification with Graph Attention Networks

阅读笔记Syntax-Aware Aspect Level Sentiment Classification with Graph Attention Networks简介文本表示Graph Attention Network(GAT)Target-Dependent Graph Attention NetworkFinal Classification简介这篇论文的研究领域是细粒度情感分类中的aspect term sentiment classification任务，这篇论文根据单词之间的依存关系构

2021-01-13 13:55:53 1131 2

原创 ATSC论文分享

ATSC论文分享任务介绍1.Aspect Level Sentiment Classification with Deep Memory Network2. Aspect Based Sentiment Analysis with Gated Convolutional Networks3.Transformation Networks for Target-Oriented Sentiment Classification4.Aspect-based Sentiment Classification wi

2021-01-10 21:49:55 225 1

原创 ACSC论文分享

ACSC论文分享任务介绍1.Aspect Based Sentiment Analysis with Gated Convolutional Networks2.Utilizing BERT for Aspect-Based Sentiment Analysis via Constructing Auxiliary SentenceMulti-Instance Multi-Label Learning Networks for Aspect-Category Sentiment Analysis任务介绍

2021-01-10 21:49:08 360 1

loganzha的博客