![](https://img-blog.csdnimg.cn/ae4a656cd63447859626bb1183a9d34a.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
NLP
文章平均质量分 82
论文笔记等等
王六六同学
成为更好的自己,这是新的约定。
展开
-
【论文笔记】基于语义依赖和上下文矩的深度掩码记忆网络在方面级情感分类中的应用(英文题目太长)
这篇论文来自IJCAI-2019,其结果也是目前非Bert模型中已发表论文的最高水平。这个模型相较于上面那一篇要复杂很多,是一篇名副其实的IJCAI论文。这篇论文较于上一篇的改进之处在于:整合了语义分析信息到记忆网络中而不是位置信息。设计了辅助任务来学习整个句子的情感分布,这可以为目标aspect的情感分类提供想要的背景信息。该论文提出模型被称作deep mask memory network with semantic dependency and context moment (DMMN-原创 2021-07-20 14:13:20 · 210 阅读 · 1 评论 -
【自用】F1值
【总结】micro-F1:统计各个类标的TP、FP、FN、TN,加和构成新的TP、FP、FN、TN,然后即可计算micro-Precision和micro-Recall,从而套入F1公式获得。macro-F1:统计各个类标的TP、FP、FN、TN,分别计算各自的Precision和Recall,得到各自的F1值,然后取平均值得到 二分类使用Accuracy和F1-score,多分类使用Accuracy和宏F1(Macro-F1)。 使用sklearn做分类时候,用到metrics中的评价函数,其中原创 2021-08-15 22:19:27 · 293 阅读 · 0 评论 -
【自用】深度记忆网络在方面级情感分析上的应用
参考:Deep Memory Network在Aspect Based Sentiment方向上的应用前面的博文【自用】Deep Memory Network 深度记忆网络笔记已经非常详细地介绍了该种网络架构,下面来研究一下其在基于方面的情感分类的应用。Aspect Based Sentiment是一种细粒度的情感分析问题,一个句子中可能有多个aspect,并且这些aspect的极性可能是不一样的。该任务来自SemEval-14 task 4,要求正确预测所有aspect的极性。基于方面的情感分析,以下原创 2021-07-19 23:30:42 · 258 阅读 · 1 评论 -
【自用】Deep Memory Network 深度记忆网络笔记
参考:从流域到海域-博客-Deep Memory Network 深度记忆网络论文阅读-Memory Network论文解读:记忆网络(Memory Network)RNN解决长期依赖的能力随着文本长度的增加越来越差,attention机制是解决这种问题的一种思路。现在再来看另外一种思路—深度记忆网络:Deep Memory Network在Aspect based Sentiment等NLP领域都有过成功的实践,但其提出者本身是以通用模型的形式提出的。Introduce of Memor原创 2021-07-11 22:44:58 · 399 阅读 · 1 评论 -
【自用】预训练语言模型->Transformer模型
[2017] Transformer 模型根据我们组大神发给我的学习资料做成的一个笔记,方便自己进行复习~~~~~~~参考:【博客】史上最小白之Transformer详解【博客】图解Transformer(完整版)【知乎】如何理解Transformer论文中的positional encoding,和三角函数有什么关系?【视频】 汉语自然语言处理-从零解读碾压循环神经网络的transformer模型[B站up主:1espresso]尽管Transformer模型不是预训练语言模型(是seq2se原创 2021-06-24 21:59:19 · 1587 阅读 · 0 评论 -
【自用】Attention
Attention笔记(王六六自制)参考:史上最小白之Attention详解 感谢~前段时间的学习笔记????,最近忙着搞科研,我的小论文啥时候能孵化出来,呜呜呜~笔记如下:原创 2021-06-24 13:59:44 · 102 阅读 · 0 评论 -
【自用】预训练语言模型->ELMo 模型
[2018] ELMo 模型参考:[论文] DEEP CONTEXTUALIZED WORD REPRESENTATIONS [g6v5][知乎] NAACL2018:高级词向量(ELMo)详解(超详细) 经典[文章] 从Word Embedding到Bert模型——自然语言处理预训练技术发展史ELMo全称Embeddings from Language Models,是一个双向语言模型。在ELMo出现之前,词嵌入模型的缺点是对于每一个单词都有唯一的一个词向量表示。然而对于同一个单词的含义,其实有一原创 2021-06-24 13:38:31 · 379 阅读 · 0 评论 -
【自用】文本分类->词嵌入模型
基于词向量的特征提取模型(word2vec)参考:word2vec详解(一)、浅谈Word2vec、分层softmax_Hierarchical softmax(分层softmax)简单描述.word2vec不是一个算法,它仅仅是一个工具包,将词转换为稠密的向量,它主要是包括以下两个内容:两个模型:CBow和skip-gram两种优化方式:hierarchical softmax和negative sampling(负采样)1. CBow 模型CBow 模型全称Contin...原创 2021-06-23 17:45:42 · 649 阅读 · 0 评论 -
【自用】RNN+LSTM笔记
RNN好久没更新博客了,最近在认真搞科研。。。。(焦头烂额)自己在ipad上使用Notability上记得RNN和LSTM的相关笔记如图所示:LSTM原创 2021-06-23 17:24:59 · 109 阅读 · 0 评论 -
【自用】文本分类 -> 特征提取方法
根据我们组大神发给我的学习资料做成的一个笔记,方便我进行复习~~~~~~~前言参考 :知乎 — 从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史如果我们想让计算机学习到我们的语言,至少需要先教会它们词汇和语法,也就是提取词汇和语法所蕴含的特征,再使它们理解每句话的含义。就目前而言词汇可以转变为向量,即词向量,让计算机学习。而用何种算法转化为向量仍是一个值得讨论的问题。当前已经有了诸多的转化方法,主要分为静态词向量(上下文无关)和动态词向量(上下文相...原创 2021-06-07 22:31:52 · 2160 阅读 · 0 评论