简介
文章主要贡献将训练分词的模型(单向LSTM-CRF)与NER的训练合并来试图提高NER模型的性能。
论文地址: https://arxiv.org/pdf/1603.00786.pdf
代码gitlab地址: https://github.com/hltcoe/golden-horse
模型结构
模型的总体结构如下:
左边是中文分词的模型结构(LSTM+CRF),右边是NER的模型结构,NER模型的CRF前面的最后一层主要使用了三个特征:
- 字符的词性embedding
- 字符的embedding,即分词使用的字符embedding
- 分词模型中每个字符对应的隐藏层的输出(分词模型CRF层前面的一层输出)
训练时的目标函数如下:
第一项表示分词模型的损失函数,第二项表示NER的损失函数, λ