jst100-CSDN博客

原创《BiSyn-GAT+: Bi-Syntax Aware Graph Attention Network for Aspect-based Sentiment Analysis》论文阅读

这篇文章同时将表示句子语法信息的组成树和依赖树考虑在内，并且使用了GAT对不同的边赋予不同的权重，除此之外还考虑了不同方面实体之间的相互影响，已经是很全面了。

2024-10-15 17:40:30 996

原创《A novel network with multiple attention mechanisms for aspect-level sentiment analysis》论文阅读

方面级情感分析旨在识别出给丁丁句子中特定词的情感极性，但现有的使用RNN神经网络的模型会存在反向传播截断、梯度消失等问题，因此作者设计了一种多种注意力机制的推断网络，通过BERT获得句子的嵌入表示，然后使用内层内和层间注意力机制来迫使模型更关注与aspect相关的部分。除此之外作者也考虑到了对于方面实体中每一个的单词可能也会对情感极性的判断做出不同的贡献，因此作者这里也做了一个注意力机制。然后作者提出了一个新的概念，保留窗口，如图中的蓝色所示，保留窗口的大小等于给定方面前后的总词数。文章的模型图如上所示。

2024-08-26 18:58:04 936 1

原创《Aspect-based Sentiment Classification with Aspect-specific Graph Convolutional Networks》论文阅读

然而上述方法却很难捕获或解释文本中的句法依赖和长依存关系，比如注意力机制倾向于增加目标词周围词的权重，所以可能会将错误的词作为情感判断的线索。为了解决上述问题，作者基于句子依赖树构建了图卷积神经网路（GCN）,以利用句法信息和单词依赖关系，并提出了一个新的面向方面的情感分类框架，通过实验证明了其有效性。作者首先通过spacy获取句子的依赖表示，并将其转化为邻接矩阵的形式，然后输入到GCN中进行图卷积操作。作者通过在句子的句法依存树上应用多层图卷积，并在其顶部施加特定于方面的掩蔽层，来获得面向方面的特征。

2024-07-20 21:50:45 340

原创《Towards Unifying the Label Space for Aspect-and Sentence-based Sentiment Analysis》论文阅读

作者所使用的数据集为同一领域中的粗粒度数据集和细粒度数据集，对于粗粒度数据集其要学习的映射为：即对于一句话的情感标签。而对于细粒度的数据集，其目标映射为：其中t代表对应的方面实体，也就是要学习每一个方面实体对应的映射。

2024-07-08 14:11:28 834

原创 Incorporating Dynamic Semantics into Pre-Trained Language Model for Aspect-based Sentiment Analysis

Incorporating Dynamic Semantics into Pre-Trained Language Model for Aspect-based Sentiment Analysis》论文阅读。

2024-06-29 09:16:09 926

原创《STRUCTURED PREDICTION AS TRANSLATION BETWEEN AUGMENTED NATURAL LANGUAGES》论文阅读

这篇文章的主要创新点在于其构造了一种新颖的框架，通过探寻不同地结构化任务的共性，以及挖掘蕴含在预训练语言模型潜在的语言知识，从而将抽取任务转化为结构化的自然语言生成或者自然语言翻译任务，从而避免了之前的方法需要针对不同地任务设计不同分类模型的问题，也同时可以更好地考虑标签语义信息，因为不需要将标签转化为数字，这点在小数据集中尤其重要。

2024-06-12 14:10:26 366 2

原创《Commonsense Knowledge Salience Evaluation with a Benchmark Dataset in E-commerce》论文阅读

自我感觉目前对知识图谱的处理就是要充分利用预训练语言模型已经在大规模标度的数据集上训练从而具备一定的隐性知识的特点和优势，提示学习（微调）如此，将三元组文本化亦是如此，而由于训练集和测试集会存在gap的问题，利用图嵌入将会受到相应的局限，因此大多研究现在都着眼于文本嵌入。

2024-06-06 10:55:59 400

原创《Sentiprompt: Sentiment knowledge enhanced prompt-tuning for aspect-based sentiment analysis》论文阅读

这篇文章虽然被2022年的AAAI接受，但是论文的写作并不是很好，而且之前在github上公开的代码由于大家在运行后的效果普遍明显低于论文中所报道的实验结果，因此作者撤回了其代码，并留言说会在论文接收后再公开，但目前还没有。关于关于方面级情感分析三元组ASTE任务的研究存在2个重要问题，一个是直接将预训练语言模型用于下游任务的训练当中，而并没有任何任务自适应性的修改，因此无法充分发挥预训练语言模型的优势，其次目前的方法也没有将领域知识和方面实体与意见词之间的显示地考虑进去，阻碍了模型的发挥。

2024-06-03 19:37:49 648 1

原创《Do Pre-trained Models Benefit Knowledge Graph Completion? A Reliable Evaluation and a Reasonable A》

最近，预训练语言模型被广泛用于知识图谱任务当中，但是这些模型却并没有取得SOTA的结果。这篇文章的作者发现导致上述情况的原因一共有两个，（1）错误发评估方式。目前关于知识图谱三元组完整性的判断大多集中于封闭世界假设（closed world assumption，CWA），从而低估了题PLM为代表的KGC模型，因为它们融合了更多的外部知识。（2）PLM的使用不当。现在基于PLM的模型只是简单将实体和关系拼接以后直接输入到模型当中，而这会导致句子不连贯，无法充分利用PLM中的隐含知识。

2024-05-09 13:46:54 992

原创 First Target and Opinion then Polarity: A Two-stage Correlation Enhanced Network for Aspect Sentimen

针对于以前处理ASTE任务的方式存在难以建立不用情感元素抽取之间的联系以及缺乏它们之间的交互等问题，该篇文章仿照陈丹琦的论文《A frustratingly easy approach for entity and relation extraction.》的方式建立了一个两阶段的任务处理框架。在第一阶段通过序列标注的方式联合抽取方面实体和意见词，然后人工添加了可感知标签标记（Perceivable Pair tag）用来标明方面实体和意见词的位置。

2024-03-19 08:48:12 331

原创《Aspect-Sentiment-Multiple-Opinion Triplet Extraction》论文阅读

文章目录文章介绍文章模型encoder部分ATE任务TOWE任务ATSA任务番外文章地址：https://arxiv.org/abs/2110.07303v1文章介绍目前的关于ASTE三元组提取的方面级情感分析论文大多关注于简单的句式，比如一个方面实体仅有一个意见词加以修饰，但在一些情况下，由于我们通常会对事物的不同的属性做出不同的评价，因此对于某一个事物的最终情感将取决于这些不同意见词的总和。为了应对上述问题，这篇论文在ASTE方面级情感三元组提取任务的基础上提出了方面级情感多意见修饰三元组提取

2024-01-21 11:08:27 1043

原创《Hierarchical Sequence Labeling Model for Aspect Sentiment Triplet Extraction》论文阅读

文章目录文章介绍文章模型编码层方面级序列标注模块意见级序列标注模块情感级序列标注模块情感级序列标注模块文章地址：https://link.springer.com/chapter/10.1007/978-3-030-60450-9_52文章介绍在这篇文章中作者提出了一个继承性的序列标注模型（ hierarchical sequence labeling model, HSLM）以端到端的方式识别文本语句中所含有的方面级情感三元组（ASTE）。该模型主要有三个部分组成：方面级序列标注模块、意见级序列

2024-01-11 14:07:45 1000

原创《Aspect Sentiment Quad Prediction as Paraphrase Generation》论文阅读

文章目录文章介绍文章模型问题定义文章模型PARAPHRASE建模文章地址：https://arxiv.org/abs/2110.00796文章介绍这篇文章在已有的方面级情感分析任务的基础了研究了一项新的任务：方面级情感四元组提取（Aspect Sentiment Quad Prediction， ASQP）任务，旨在通过端到端的方式联合提取评论文本中所包含的方面实体、意见词、方面类别以及情感极性。为此，该篇论文作者提出了一种全新的模型范式PARAPHRASE（释义）生成，并不是直接将句子生成四元组

2024-01-04 14:36:02 627

原创《Nonautoregressive Encoder–Decoder Neural Framework for End-to-End Aspect-Based Sentiment Triplet》

文章目录文章介绍现有局限文章模型带有指针网络的编码和译码框架文章地址：https://ieeexplore.ieee.org/abstract/document/9634849文章介绍目前针对于ASTE任务的方面级情感分析任务的处理难以处理2个主要挑战，一个是意见词与方面实体间的重叠关系，另一个是长距离之间的依赖问题。因此这篇文章通过一个端到端的生成结构来处理此类问题。其将ASTE建模为一个无序的三元组预测任务，并满足具有指针网络的非自回归的解码范式。在此基础上提出了一种高阶聚合机制，从而对重叠的

2023-11-11 17:22:49 183 2

原创谷歌学术中英文网址

但国内写文献参考格式的时候大多是采用GPT格式，这个在谷歌学术国外版是直接生成不了的，但可以用国内版。虽然谷歌学术有国内版，但是也需要翻墙才能访问。如果不能翻墙也可以用谷粉学术替代。之前用谷歌学术的时候一直用的是。

2023-01-17 09:53:53 9072 1

原创《Unified Structure Generation for Universal Information Extraction》论文阅读

文章目录文章介绍文章方案用于统一结构编码的结构化抽取语言（SEL）用于可控IE结构生成的结构模式指导使用UIE生成预训练任务微调任务总结参考文章地址：https://arxiv.org/abs/2203.12277文章介绍目前对于自然语言处理中的信息抽取任务如关系抽取、时间抽取、情感识别等等，大多研究都是根据具体的任务设计不同的方案和框架，消耗了大量的时间且割舍了不同领域的相关知识。因此这篇文章提出了一个统一的生成框架UIE（unified text-to-structure generation

2022-12-24 11:31:36 1083

原创使用overleaf时如何将bibtex参考文献转化为LNCS模板的论文要求的参考文献格式

复制下来，在overleaf中新建一个myReference.bib文件并导入进去，这里注意是。首先对比谷歌学术给出的参考样例和LNCS要求的参考样例可以发现二者有很大的区别。注明：splncs04.bst是参考文献样式文件，官方下载LNCS模板一般自带。

2022-11-22 10:23:22 1803

原创《Aspect-based sentiment analysis via affective knowledge enhanced graph convolutional networks》论文阅读

文章目录文章介绍文章模型通过依赖树构建图学习特定方面实体的表示总结文章介绍最近，图卷积神经网络因为其优越的性能（能很好的考虑词语间的依赖）被广泛的应用在自然语言处理任务当中。其一般方式为首先将文本转化为邻接矩阵的形似，然后结合文本的特征表示即可输入到GCN中，但是现有的研究大多针对于如何更好的表示词语间的依赖，而忽略了上下文的情感知识。因此这篇文章在结合SenticNet的基础上构建词语间的依赖，提出了Sentic GCN。文章模型文章提出模型框架如上图所示，嵌入层可选用glove或者BE

2022-10-22 18:02:15 550 1

原创 Markdown编辑器

你好！这是你第一次使用 Markdown编辑器所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客：撤销：Ctrl/Command + Z重做：Ctrl/Command + Y加粗：Ctrl/Command + B斜体：Ctrl/Command + I标题：Ctrl/Command + S

2022-10-09 13:41:11 250

原创 Python调用谷歌API遇到的若干问题

首先是安装包的问题，如果直接pip install的话，很有可能会导致安装版本不对，由于谷歌好像不太支持这个库了，所以很多库安装起来无法使用，目前可知googletrans==4.0.0-rc1可以使用。但是googletrans也有一个大问题就是不稳定，这时候可以安装google_trans_new作为替代。google_trans_new的网址如下。这个时候可以参考网址。

2022-09-24 16:36:14 914

原创《Grid Tagging Scheme for Aspect-oriented Fine-grained Opinion Extraction》论文阅读

文章目录文章介绍Grid Tagging Scheme问题定义标注方案解码算法模型验证训练损失文章介绍为了完成ASTE方面级情感分析任务的三元组提取，很多的方法都通过流水线的方式首先提取方面词或意见词，然后形成方面-意见词对的形式，最后判断情感极性。虽然这样的方法可以充分训练每一个独立的模型，但也不可避免地会受到错误传播的影响。因此作者设计了一个全新的网格化标记方案（ Grid Tagging Scheme，GTS），从而端到端完成该项任务。除此之外，作者分别基于CNN、BiLSTM和BERT实现了

2022-09-12 11:12:20 514

原创 model.generate返回句子大于1时出现＜unk＞的情况处理

具体来讲就是出现了pad和unk这种无效路径，因此要把这种无效路径去除掉，所以要在generate里添加参数。

2022-09-06 20:23:11 1190

原创 Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Process

提示学习作为继传统特征工程、机器学习的第一范式，基于神经网络的完全监督学习（架构工程）的第二范式，预训练，微调范式（目标工程）的第三范式之后的预训练，提示，预测范式（Prompt工程）第四范式，自从GPT-3出来以后受到了极大的推崇。该篇文章则从基本概念、训练策略、提示（答案）工程、现有研究、未来挑战等方面详细介绍了提示学习的“过去，现在以及可能的未来”。...

2022-08-27 16:59:52 941

原创《Span-based dual-decoder framework for aspect sentiment triplet extraction》论文阅读

文章目录文章介绍模型介绍跨度生成双向架构总结文章介绍对于ASTE任务，目前主流的基于序列标注的方法或者是一些流水线和端到端的方法大多只是单纯地考虑词语词之间的交互，然而无论是方面实体或者意见词，其都有可能由多个单词或者token组成，仅考虑词级的交互则很容易只提取核心单词，而忽略了诸如“not”等，虽然不是核心词，但却对最后的情感判断起同样作用的token。因此这篇文章通过两部分的多头注意力机制模拟跨度之间的关联以及跨度与句子之间的语义信息，分别提取语句中所含有的方面实体和意见词，其中对于意见

2022-08-20 15:05:40 457 1

原创 ConnectionError: Couldn‘t reach https://raw.githubusercontent.com问题解决

可以看出其本质上是检测你本地上的sacrebleu的版本是不是大于1.4.12，所以按照它的注释pip install一下，然后将这个if语句注释掉就可以正常运行了。但如果不是本地机子或者没有root权限是行不通的时候，这个时候我们就可以访问这个链接将这个文件直接下下来，然后更改load_metric函数的加载路径为文件地址。但是这个时候还可能遇到一个情况：AttributeError: module ‘sacrebleu’ has no attribute ‘可以发现，是无法访问这个地址，一般都是。...

2022-08-18 09:30:29 2833 2

原创《Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks》论文阅读

对于实验和训练（维基百科、句子对分类任务）的细节不再多说，感觉这篇文章最值得借鉴的地方就是这个句子间的交互性，分类网络的那几种方式，以及回归网络的余弦相似度、各种距离等，也许可以用到其他任务当中，而且通过2个相同的编码器并行编码句子可以充分硬件，节约时间。httpshttpshttpshttpshttps。...

2022-07-20 09:57:39 165

原创 VsCode更新Python插件以后不支持3.6及之前的语言版本Debug

python3.6算是一个比较古老但是很稳定的版本，但虽然python语言版本的不断更新，官方对于python3.6的维护竟然取消了，这也导致了VsCode里的最新插件不再支持python3.6等语言的Debug功能，具体表现就是一点Debug就闪退当然还是能照常运行的，具体版本的寿命表如下所示不过说实话，我也是第一次听说同一系列（3.x）的不同版本的维护会有寿命终止这一说，感觉是挺无语的，学学人家C也好啊上图是VsCode python插件的说明，可以看出想要继续使用Debug功能很重

2022-07-14 14:45:17 9999 9

原创《Attentional Encoder Network for Targeted Sentiment Classification》论文阅读

文章地址：https://arxiv.org/pdf/1902.09314.pdf 之前处理基于特定方面实体的情感分类大多使用RNN和注意力机制进行建模，然而RNN河南并行化，而且句子过长时也给长期记忆带来困难。因此该问提出了一种注意力编码网络AEN（Attentional Encoder Network），来对上下文和目标实体进行建模。并且该文还提出了标签不可靠性问题，从而引入了标签平滑正则化。这里作者采用了两种方式来实现，一个是静态词嵌入Glove，也就是已经训练好的，另一个是BERT模型，作者

2022-07-07 21:15:07 448

原创 transform: failed to synchronize: cudaErrorAssert: device-side assert triggered

该问题的出现一般会出现损失函数上多半是loss.backward()这一句：首先是分类问题：首先检查一下是不是多分类问题的损失函数用成二分类的损失函数，其次检查多分类的损失函数的类别数是不是对应的，然后如果是二分类损失函数binary_cross_entropy（）要记得加上激活函数sigmoid，多分类它们自带的有softmax函数不用管了然后是回归问题：对于回归问题，常用的损失函数为MSEloss，而标题中的问题一般不会出现在MSEloss本身，也就是说多半是模型的问题。因此这个时候应当

2022-07-04 11:22:40 2428

原创《Seq2Path: Generating Sentiment Tuples as Paths of a Tree》论文阅读

文章地址：https://aclanthology.org/2022.findings-acl.174/ 最近利用生成的方式来解决方面级情感分析任务的方法虽然通过将输出转化情感元组的序列形式从而取得了一些很好的结果，但是情感元组的顺序在文本中并不是显示存在的，而且当前时刻下元组的生成也不应依赖于先前的元组。因此在这篇文章中，作者提出了一种新的生成方式：Seq2Path，该方式将情感元组的生成顺序转化为数的路径。该方式不仅可以有效的应对1对n的问题（如一个方面实体对应多个意见词），而且每个路径的生成都独立

2022-07-01 14:34:12 985 2

Stanford NLP corenlp

Vscode Python老版本插件

Python深度学习中第三章第六章的一些数据集

空空如也