【论文泛读164】MECT：基于多元数据嵌入的中文命名实体识别交叉变换器

贴一下汇总贴：论文阅读记录

论文链接：《MECT: Multi-Metadata Embedding based Cross-Transformer for Chinese Named Entity Recognition》

一、摘要

最近，词增强在中文命名实体识别（NER）中变得非常流行，减少了分割错误并增加了中文词的语义和边界信息。然而，这些方法在整合词汇信息后往往会忽略汉字结构的信息。汉字自古由象形文字演变而来，其结构往往反映了更多的文字信息。本文提出了一种新的基于多元数据嵌入的交叉变换器（MECT），通过融合汉字的结构信息来提高中文 NER 的性能。具体来说，我们在双流 Transformer 中使用多元数据嵌入将汉字特征与部首级嵌入相结合。借助汉字的结构特征，MECT可以更好地为NER捕捉汉字的语义信息。在几个著名的基准数据集上获得的实验结果证明了所提出的 MECT 方法的优点和优越性。代码：github。

二、结论

本文提出了一种适用于Chinese NER的新型双流网络，即MECT。该方法使用多元数据嵌入，通过交叉变换网络融合部首、字符和单词的信息。此外，随机注意力被用于进一步提高性能。在四个基准上的实验结果表明，汉字部首信息可以有效提高Chinese NER的性能。

所提出的带有基流的MECT方法增加了模型的复杂性。未来，我们将考虑如何在双流或多流网