本文研究了lattice-structured LSTM模型用来做中文的NER,在character-based的序列标注的模型上改进得到的,在character-based模型中的每个character cell vector通过词向量输入门的控制引入以当前字符结束的在词表中出现的所有词的word cell vector得到新的character cell vector,用新的character cell vector得到每个字符的hidden vector来进行最终的标签的预测,与基于字符的方法相比,本文的方法显式的使用了词和词序列信息,与基于词的方法相比lattice LSTM不存在分割错误的问题,Gated recurrent cells使模型能够从句子中选取最相关的字符和词,从而得到更好的NER效果。
lattice model
输入为,一个句子的字符序列和在字典D中匹配到的词(也是输入字符序列的子序列),D是由原始输入的句子自动分割得到的。模型共涉及到四种vectors,分别为input vectors, output hidden vectors, cell,vectors和gate vectors。
Character-Baseed Model
(1)输入字符序列
e_c 表示一个character embedding查询表
cj 字符
xj_c 查表得到的character embedding
(2)用Bi-LSTM来对character embedding进行处理得到两个序列,然后把相同位置的拼接起来得到hidden vector
(3)用CRF来进行标签序列的预测解码