大语言模型驱动的跨域属性级情感分析——论文阅读笔记

最新推荐文章于 2025-04-25 18:39:33 发布

Galaxy.404

最新推荐文章于 2025-04-25 18:39:33 发布

阅读量1.4k

点赞数 11

分类专栏：论文阅读情感分析 NLP 文章标签：语言模型笔记人工智能

本文链接：https://blog.csdn.net/weixin_62472350/article/details/143312928

版权

前言

论文PDF下载地址：7156

最近想搜一下基于大语言模型的情感分析论文，搜到了这篇在今年发表的论文，于是简单阅读之后在这里记一下笔记。

如图1所示，在餐厅领域中的"快"是上菜快，属于正面情感，但是在电脑领域中的"快"是电池消耗很快，属于负面情感。这也说明了：不同领域之间存在同个词包含不同的语义信息。

由于不同领域的语义差异影响了现有属性级情感分析方法的效果，使其大多只能在特定领域或特定类型的数据上表现良好。但是，在面对特定领域的属性级情感分类任务时，往往又缺乏足够的有标签数据。同时，由于语料标注的成本高，获取大规模和高质量训练语料的难度很大，所以目前主流的属性级情感分析方法难以适应不同领域或不同类型数据的属性级情感分析需求。因此有必要提出一种能够适应多领域、多类型数据的跨领域属性情感分类方法。

跨领域情感分类存在两个难点：

目标领域缺乏有标签数据；

跨领域文本特征差异大。

为了解决跨领域情感分类的研究中所遇到的问题，本文提出了一种新的跨领域数据增强方法：基于大语言模型(LLM)数据增强的跨领域属性级情感分析方法。

图2展示了不同结构跨领域数据增强方法：

(a) 基于预训练语言模型（PLM）的方法通过掩码策略生成目标领域的有标签数据，其作用是弥补目标领域无标签数据的不足，缺点是不同领域的语义差异可能导致生成的文本不自然流畅，且难以保持目标领域文本的多样性，容易受源领域数据的影响。

(b) 利用大语言模型（LLM）通过学习大规模文本数据生成高质量的文本，其作用是弥补目标领域无标签数据的不足，缺点是生成的文本过于简单，解析性较低，难以确保满足目标领域的要求，容易偏向源领域数据的表达风格。

(c) 本文提出一种基于 LLM 数据增强的跨领域属性级情感分析方法。

①针对跨领域属性级别情感分类任务，合理构造指令语句用以引导 LLM 完成目标领域文本结构化生成任务；

②挖掘目标领域与源领域相似文本，提取样例级别的文本生成关键词；

③通过上下文学习方式使用领域关联关键词，引导模型高效生成目标领域有标签文本数据，用以解决目标领域数据缺乏以及领域特异性问题，从而有效提高跨领域情感分析方法的准确性和鲁棒性。

1 相关工作

1.1 属性级情感分析

属性级情感分类旨在从文本中识别和分析特定属性词的情感极性。

早期：主要依赖人工设计的模板来提取文本中于目标属性词相关的情感信息。
深度神经网络时代：主要依赖神经网络模型来处理属性级情感分类任务。
预训练模型发展时代：将预训练模型应用到属性级情感分类任务。

虽然目前提出的属性级情感分析方法可以在特定的领域取得较好的结果，但是不同领域间的语义分布差异以及新兴领域缺乏标签数据等问题会影响现有属性级情感分析方法的表现。因此,本文提出一种基于 LLM 数据增强的通用方法，通过合理生成目标领域的有标签数据，可以有效强化现有属性级情感分析方法在跨领域问题中的表现。