本文介绍了BiLSTM+CRF模型的原理和应用，重点讲解了CRF层如何通过学习转移得分来考虑标签之间的关系。同时，对比了生成式模型与判别式模型，探讨了概率无向图模型与贝叶斯网络的关系，并阐述了线性链CRF的条件概率及其特征函数。文章最后强调理解CRF参数化形式和解决概率估计、参数学习及预测问题的重要性。
BiLSTM+CRF
现在比较流行的是bilstm+crf，即在bilstm后面接了crf层
- 经过bilstm得到隐状态序列 ( h 1 , h 2 , . . . , h n ) ∈ R n ∗ m (h_1,h_2,...,h_n) \in R^{n*m} (h1,h2,...,hn)∈Rn∗m
- 接入一个线性层，转换隐状态序列的维度，从 m m m维转换到 k k k维， k k k是标签数。我们可以理解这一步是由网络自动学习当前时刻对应到每个标签的分数。
- 接下来是CRF层，这一层需要学得的参数是 ( k + 2 ) ∗ ( k + 2 ) (k+2)*(k+2) (k+2)∗(k+
最低0.47元/天 解锁文章
扫一扫
1432
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
