命名实体识别Baseline模型BERT-MRC总结

BERT-MRC模型

BERT-MRC模型是目前实体识别领域的一个SOTA模型，在数据量较小的情况下效果较其他模型要更好，原因是因为BERT-MRC模型可以通过问题加入一些先验知识，减小由于数据量太小带来的问题，在实际实验中，在数据量比较小的情况下，BERT-MRC模型的效果要较其他模型要更好一点。BERT-MRC模型很适合在缺乏标注数据的场景下使用。

BERT-MRC模型的理论基础

MRC机器阅读理解

给定一个文本序列X，它的长度为n，要抽取出其中的每个实体，其中实体都属于一种实体类型。假设该数据集的所有实体标签集合为Y，那么对其中的每个实体标签y，比如地点“国家”，都有一个关于它的问题 $q(y)$ 。这个问题可以是一个词，也可以是一句话等等。使用上述MRC中片段抽取的思想，输入文本序列X和问题 $q(y)$，$a$ 是需要抽取的实体，BERT-MRC通过建模 $P(a\mid C,Q)$ 来实现实体抽取
对于问题