基于深度学习与统计信息的领域术语抽取方法研究

摘要

【背景】及时掌握领域术语有助于动态把握领域发展方向,揭示领域的核心知识与研究热点。【目的】为提高领域术语抽取准确率,提出一种基于深度学习和统计信息的领域术语抽取方法。【方法】首先,对领域中文专利文本进行字嵌入表示,基于BERT（Bidirectional Encoder Representations from Transformers）获取字符级的向量表征作为模型的输入;然后,利用BiLSTM-CRF（Bidirectional Long Short Term Memory-Conditional Random Field）深度学习模型提取序列化文本的语义特征,得到领域术语标注序列;最后,综合计算复合结构术语的互信息和左右熵,并结合领域知识库对抽取结果进行校正。【结果】模型在“盐湖提锂”领域进行实验,结果表明BERT-BiLSTM-CRF模型抽取该领域术语准确率达到77.33%,而对抽取结果进行校正进一步将准确率提升了3.68%,是一种有效的领域术语抽取方法。

关键词： 领域术语抽取; BERT; 双向长短时记忆网络; 条件随机场; 互信息; 左右信息熵

引言

随着人工智能技术与各种领域的深度融合,