NER论文阅读-Chinese NER Using Lattice LSTM（2020ACL）

Chinese NER Using Lattice LSTM（2020ACL）

• 摘要

近些年有很多尝试使用词典信息来提高中文命名实体识别的性能的工作。其中一个代表就是Lattice-LSTM，这项工作取得了很多领先的成果在几个公开数据集上。可是，lattice_LSTM有很复杂的模型结构，这个限制了它在很多工业领域——那些需要实时NER回应的地方。

在这个工作中，我们想出了一个简单但是高效的方法将词汇表信息融入到字符表示层中。这个方法避免了设计一个复杂的词序标注结构，而且对于任何的神级网络NER模型，只需要轻微的调整字符表示层就能将词汇信息加入进去。在四个中文NER基准数据集中我们的方法取得了比那些最好的方法6,15倍的推理速度。实验结果也表明了这个方法能方便的和BERT等预训练模型结合。

• 介绍

Lattice-LSTM对不相邻的字符增加了额外的边，这些边显著地降低了模型的训练和推理速度。此外，很难将lattice-LSTM网络结构转移到其他神级网络结构中（比如CNN和transformers）——很适合一些特定的任务。

我们提出了一个简单的方法实现Lattice-LSTM的思想——合并字符所能匹配到的所有词到这个基于字符的NER模型中。我们的模型设计第一个准则就是取得一个很快的推理速度。为了这个目的，我们提出编码词典信息在字符表示中，并且我们设计了编码模式去保留尽可能多的词汇匹配结果。消融实验表示，我们的方法有这些优势，能结合更加完整和不同的词汇信息，同时引入了更加有效的词汇权重策略。

• 背景知识

1.softword 特征

sotfword技术一开始是应用在结合分词信息到下游任务中(Zhao and Kit, 2008; Peng and Dredze, 2016)。它将字符相应的分词标签嵌入增添到字符表示中。