1. 文本情感分析简介
何谓文本情感分析,其实很简单,利用算法来分析提取文本中表达的情感。例如分析一个句子表达的好、中、坏等判断,高兴、悲伤、愤怒等情绪。如果能将这种文字转为情感的操作让计算机自动完成,就节省了大量的时间。对于目前的海量文本数据来说,这是很有必要的。
2. 文本情感分析分类
文本情感分析主要有三大任务,即文本情感特征提取、文本情感特征分类以及文本情感特征检索与归纳。而关于文本情感分析的方法主要分为两类:
一、基于情感词典的方法:人工构建情感词典、自动构建情感词典
二、基于机器学习的方法:朴素贝叶斯、最大熵、SVM分类器
2.1 基于词典的文本情感分析方法
情感词典是文本分析的基础,利用文本情感词典,可以对情感词典进行极性和强度标注,进而进行文本情感分类。
下图示基于词典的文本情感分析过程:
举个例子:
这个游戏不是太好玩。
先进行分词:这个/游戏/不是/太好玩,一共分为四个词,这个,游戏,不是,太好玩。
遍历每个单词,“太好玩”在情感词典中的pos词典中出现,所以pos_score得分为1,然后往前遍历是否出现程度词,无程度词,在搜索否定词,出现了“不是”为-1,相乘最终得分为-1。然后用pos_score减去neg_score的值为最终得分为-1分,大于0则为pos,小于0为neg。
上述例子中每一个情感词的得分需要按照情感词典来计算,而情感词典的构建是则分为人工构建情感词典和自动构建情感词典。
2.1.1 人工构建情感词典
人工构建词典是抓取数据之后多次进行人工标注,根据情感表达将词语进行正负向和强弱程度区分。比较典型的中文情感词典是王勇等对微博中的句子构建的极性词典。台湾大学的中文情感极性词典(NTUSD)、知网情感词典 HowNet等。
人工构建词典在扩充词条信息和便利性方面有一定的优势,但是大大增加了人工开销,并且设计的范围有限,不适合跨领域研究。
2.1.2 自动构建情感词典
第一种是基于知识库的方法,是对上面的人工构建情感词典进行的拓展,加入名词动词副词,使情感词更加全面。
完备的语义知识库, 能够快速构建通用性较强的情感词典, 对词典的精度要求不高的情况下, 这种方法较为实用。中文语义知识库的不足以及领域的限制使得该方法在构建面向单一领域的情感词典中表现不佳。
第二种是基于语料库的方法,利用相关领域的大量语料和相关度的计算规则,结合机器学习的方法,自动统计情感词的情感极性,自动构建情感词典。
语料库相对于语义知识库而言, 其优点是容易获得且数量充足, 构建的词典在语料所属的领域内表现较好, 但是构建的成本较高, 需要对语料进行预处理, 另外, 所构建的词典的准确率相对不高。
第三种是知识库和语料库结合的方法,通过将扩充的情感知识库和特定领域的语料库结合,使构成的情感词典更加丰富。
基于词典的文本情感分析技术由于构建的词典往往只针对某个领域,对于跨领域情感分析的效果不够好,而且词典中的情感词可能不够丰富,对于短文本和特定领域文本进行情感分析的效果更好。因此,对于长文本来说,更好的解决方法是利用机器学习方法。
2.2基于机器学习的文本情感分析方法
先将文本信息进行特征处理,然后对模型进行有监督学习训练,训练好的模型用于预测新的文本信息的情感极性。工作方式如图所示:
根据分类算法不同,可分为朴素贝叶斯、最大熵和支持向量机三种方法。而其中支持向量机的效果最好。
2.2.1 朴素贝叶斯
基于朴素贝叶斯的方法是通过计算概率来对文本情感进行分类,适合增量式训练,而且算法比较简单。
对于给定的数据x,有贝叶斯公式:
根据公式可以得出数据x归为情感类型C的概率。
将x分词为x1,x2,x3,x4,则:
朴素贝叶斯在贝叶斯公式的基础上做了独立同分布假设,所以简化p(x)的计算为:
但该方法对输入数据的表达形式很敏感,而且需要计算先验概率,因此会在分类决策方面存在错误率。
2.2.2 最大熵
最大熵分类器属于指数模型类的概率分类器。基于最大熵原理,并且从适合训练数据的所有模型中,选择具 有最大熵的模型。近年部分学者基于最大熵构建情感分析模型,对文本情感进行了分析。
基于最大熵的文本情感分析只要得到一些训练数据,然后进行迭代,就可以得到所需模型,进行自收敛,方法简 单。但是由于最大熵往往只能得到局部最佳解而非全局最优解,因此运用该方法进行情感分析准确率有待提高。且约束函数数量和样本数目有关系,导致迭代过程计算量巨大,实际应用比较难。
2.2.3 支持向量机
支持向量机最初 由vapnik提 出,它通过寻求结构化风险最小以提高学习机泛化能力,实现经验风险和置信范围的最小 化,从而达到在统计样本量较少的情况下,亦能获得良好统计规律的目的。
结果表明,基于Boosting算法的SVM混合情绪分析模型,性能显著优于单独的SVM模型。
基于SVM的文本情感分析方法被认为是最好的情感分析方法,该方法泛化错误率低,计算开销不大,而且对于训练样本较小的文本可以得到很好的情感分析效果,对高维数据的处理效果良好,能够得到较低的错误率,但该方法对参数调节和核函数的选择敏感。
3. 深度学习在文本情感分析领域中的发展
随着深度学习在图像处理的领域不断发展创新,深度学习技术也开始涉及文本情感分析领域。随着深度学习的快速发展, 词向量模型等的提出恰好为相关研究提供了契机。
同时结合知识库和语料库的优点, 并借助深度学习的方法将词语转换成为词向量, 同时利用神经网络构造情感极性分类器, 判断词语的情感极性, 从而避免分类不准确情况的产生, 最后提出一种自动化构建面向金融领域情感词典的方法。
在深度学习中,可以应用于情感分析的技术有很多,比如:
前馈神经网络(FNN)
Word2Vec词嵌入技术
卷积神经网络(CNN)
循环神经网络(RNN)
LSTM网络
时至今日,深度学习对各个领域的影响在日益扩增。
4.结语
信息技术的快速发展带来了电子商务的发展热潮和网络平台的急剧增加,对这些平台上的大量言论信息进行情感分析所得到的结果可以用于网络平台评论分类、产品分析推荐、消费预测等方面, 具有极高的商业价值。
传统的文本情感分析方法耗费大量人力资源,然而人工提取的特征覆盖面有限且人工的非理性行为会影响结果的正确性,因此传统方法不具有普适性。
随着深度学习能自动提取特征、学习修正输出、可以处理非线性复杂数据 等优势凸显,深度学习的方法在自然语言处理方面 正受到众多学者的关注,可以预测深度学习的方法将成为文本情感分析研究的重要趋势