NLP-信息抽取-NER-2022：Global Pointer

最新推荐文章于 2024-05-05 20:50:36 发布

u013250861

最新推荐文章于 2024-05-05 20:50:36 发布

阅读量1.6k

点赞数

分类专栏： # NLP/IE-命名实体识别（NER）

本文链接：https://blog.csdn.net/u013250861/article/details/127043385

版权

NLP/IE-命名实体识别（NER）专栏收录该内容

29 篇文章 6 订阅

订阅专栏

《原文：Global Pointer: Novel Efficient Span-based Approach for Named Entity Recognition》

本文将介绍一个称为GlobalPointer的设计，它利用全局归一化的思路来进行命名实体识别（NER），可以无差别地识别嵌套实体和非嵌套实体，在非嵌套（Flat NER）的情形下它能取得媲美CRF的效果，而在嵌套（Nested NER）情形它也有不错的效果。还有，在理论上，GlobalPointer的设计思想就比CRF更合理；而在实践上，它训练的时候不需要像CRF那样递归计算分母，预测的时候也不需要动态规划，是完全并行的，理想情况下时间复杂度是O(1)O(1)！

简单来说，就是更漂亮、更快速、更强大！真有那么好的设计吗？不妨继续看看。

GlobalPointer多头识别嵌套实体示意图

GlobalPointer #

常规的Pointer Network的设计在做实体识别或者阅读理解时，一般是用两个模块分别识别实体的首和尾，这会带来训练和预测时的不一致。而GlobalPointer就是针对这个不一致而设计的，它将首尾视为一个整体去进行判别，所以它更有“全局观”（更Global）。

基本思路 #

具体来说，假设要识别文本序列长度为nn，简单起见先假定只有一种实体要识别，并且假定每个待识别实体是该序列的一个连续片段，长度不限，并且可以相互嵌套（两个实体之间有交集），那么该序列有多少个“候选实体”呢？不难得出，答案是n(n+1)/2n(n+1)/2个，即长度为nn的序列有n(n+1)/2n(n+1)/2个不同的连续子序列，这些子序列包含了所有可能的实体，而我们要做的就是从这n(n+1)/2n(n+1)/2个“候选实体”里边挑出真正的实体，其实就是一个“n(n+1)/2n(n+1)/2选kk”的多标签分类问题。如果有mm种实体类型需要识别，那么就做成mm个“n(n+1)/2n(n+1)/2选kk”的多标签分类问题。这就是GlobalPointer的基本思想，以实体为基本单位进行判别，如本文开头的图片所示。

可能有读者会问：这种设计的复杂度明明就是O(n2)O(n2)呀，不会特别慢吗？如果现在还是RNN/CNN的时代，那么它可能就显得很慢了，但如今是Transformer遍布NLP的时代，Transformer的每一层都是O(n2)O(n2)的复杂度，多GlobalPointer一层不多，少GlobalPointer一层也不少，关键是O(n2)O(n2)的复杂度仅仅是空间复杂度，如果并行性能好的话，时间复杂度甚至可以降到O(1)O(1)，所以不会有明显感知。

数学形式 #

设长度为nn的输入tt经过编码后得到向量序列[h1,h2,⋯,hn][h1,h2,⋯,hn]，通过变换qi,α=Wq,αhi+bq,αqi,α=Wq,αhi+bq,α和ki,α=Wk,αhi+bk,αki,α=Wk,αhi+bk,α我们可以得到序列向量序列[q1,α,q2,α,⋯,qn,α][q1,α,q2,α,⋯,qn,α]和[k1,α,k2,α,⋯,kn,α][k1,α,k2,α,⋯,kn,α]，它们是识别第αα种类型实体所用的向量序列。此时我们可以定义

sα(i,j)=q⊤i,αkj,α(1)(1)sα(i,j)=qi,α⊤kj,α

作为从ii到jj的连续片段是一个类型为αα的实体的打分。也就是说，用qi,αqi,α与kj,αkj,α的内积，作为片段t[i:j]t[i:j]是类型为αα的实体的打分（logits），这里的t[i:j]t[i:j]指的是序列tt的第ii个到第jj个元素组成的连续子串。在这样的设计下，GlobalPointer事实上就是Multi-Head Attention的一个简化版而已，有多少种实体就对应多少个head，相比Multi-Head Attention去掉了VV相关的运算。

相对位置 #

理论上来说，式(1)(1)这样的设计就足够了，但实际上训练语料比较有限的情况下，它的表现往往欠佳，因为它没有显式地包含相对位置信息。在后面的实验中我们将会看到，加不加相对位置信息，效果可以相差30个百分点以上！

比如，我们要识别出地名，输入是天气预报的内容“北京：21度；上海：22度；杭州：23度；广州：24度；...”，这时候要识别出来的实体有很多，如果没有相对位置信息输入的话，GlobalPointer对实体的长度和跨度都不是特别敏感，因此很容易把任意两个实体的首尾组合都当成目标预测出来（即预测出“北京：21度；上海”这样的实体）。相反，有了相对位置信息之后，GlobalPointer就会对实体的长度和跨度比较敏感，因此能更好地分辨出真正的实体出来。

用哪种相对位置编码呢？理论上来说，Transformer里边所有的相对位置编码都可以考虑用（参考《让研究人员绞尽脑汁的Transformer位置编码》），但真的要去落实就会发现一个问题，大多数相对位置编码都对相对位置进行了一个截断，虽然这个截断范围对我们要识别的实体来说基本都够用了，但未免有点不优雅，不截断又会面临可学参数太多的问题。想来想去，还是觉得笔者之前构思的旋转式位置编码（RoPE）比较适合。

RoPE的介绍可见《Transformer升级之路：2、博采众长的旋转式位置编码》，它其实就是一个变换矩阵RiRi，满足关系R⊤iRj=Rj−iRi⊤Rj=Rj−i，这样一来我们分别应用到q,kq,k中，就有

sα(i,j)=(Riqi,α)⊤(Rjkj,α)=q⊤i,αR⊤iRjkj,α=q⊤i,αRj−ikj,α(2)(2)sα(i,j)=(Riqi,α)⊤(Rjkj,α)=qi,α⊤Ri⊤Rjkj,α=qi,α⊤Rj−ikj,α

从而就显式地往打分sα(i,j)sα(i,j)注入了相对位置信息。

优化细节 #

在这部分内容中，我们会讨论关于GlobalPointer在训练过程中的一些细节问题，包括损失函数的选择以及评价指标的计算和优化等，从中我们可以看到，GlobalPointer以实体为单位的设计有着诸多优雅和便利之处。

损失函数 #

到目前为止，我们已经设计好了打分sα(i,j)sα(i,j)，识别特定的类αα的实体，则变成了共有n(n+1)/2n(n+1)/2类的多标签分类问题。接下来的关键是损失函数的设计。最朴素的思路是变成n(n+1)/2n(n+1)/2个二分类，然而实际使用时nn往往并不小，那么n(n+1)/2n(n+1)/2更大，而每个句子的实体数不会很多（每一类的实体数目往往只是个位数），所以如果是n(n+1)/2n(n+1)/2个二分类的话，会带来极其严重的类别不均衡问题。

这时候我们之前研究的《将“softmax+交叉熵”推广到多标签分类问题》就可以派上用场了。简单来说，这是一个用于多标签分类的损失函数，它是单目标多分类交叉熵的推广，特别适合总类别数很大、目标类别数较小的多标签分类问题。其形式也不复杂，在GlobalPointer的场景，它为

log⎛⎝1+∑(i,j)∈Pαe−sα(i,j)⎞⎠+log⎛⎝1+∑(i,j)∈Qαesα(i,j)⎞⎠(3)(3)log⁡(1+∑(i,j)∈Pαe−sα(i,j))+log⁡(1+∑(i,j)∈Qαesα(i,j))

其中PαPα是该样本的所有类型为αα的实体的首尾集合，QαQα是该样本的所有非实体或者类型非αα的实体的首尾集合，注意我们只需要考虑i≤ji≤j的组合，即

Ω=Pα=Qα={(i,j)∣∣1≤i≤j≤n}{(i,j)∣∣t[i:j]是类型为α的实体}Ω−Pα(4)(4)Ω={(i,j)|1≤i≤j≤n}Pα={(i,j)|t[i:j]是类型为α的实体}Qα=Ω−Pα

而在解码阶段，所有满足sα(i,j)>0sα(i,j)>0的片段t[i:j]t[i:j]都被视为类型为αα的实体输出。可见，解码过程是及其简单的，并且在充分并行下解码效率就是O(1)O(1)！

评价指标 #

对于NER来说，常见的评价指标就是F1，注意是实体级别的F1，并非标注标签级别的F1。在传统的Pointer Network或者CRF的设计下，我们并不容易在训练过程中直接计算实体级别的F1，但是在GlobalPointer的设计下，不管是计算实体级别的F1还是accuracy都是很容易的，比如F1的计算如下：

<span style="background-color:#f5f2f0"><span style="color:black"><code class="language-python"><span style="color:#0077aa">def</span> <span style="color:#dd4a68">global_pointer_f1_score</span><span style="color:#999999">(</span>y_true<span style="color:#999999">,</span> y_pred<span style="color:#999999">)</span><span style="color:#999999">:</span>
    <span style="color:#669900">"""给GlobalPointer设计的F1
    """</span>
    y_pred <span style="background-color:rgba(255, 255, 255, 0.5)"><span style="color:#a67f59">=</span></span> K<span style="color:#999999">.</span>cast<span style="color:#999999">(</span>K<span style="color:#999999">.</span>greater<span style="color:#999999">(</span>y_pred<span style="color:#999999">,</span> <span style="color:#990055">0</span><span style="color:#999999">)</span><span style="color:#999999">,</span> K<span style="color:#999999">.</span>floatx<span style="color:#999999">(</span><span style="color:#999999">)</span><span style="color:#999999">)</span>
    <span style="color:#0077aa">return</span> <span style="color:#990055">2</span> <span style="background-color:rgba(255, 255, 255, 0.5)"><span style="color:#a67f59">*</span></span> K<span style="color:#999999">.</span>sum<span style="color:#999999">(</span>y_true <span style="background-color:rgba(255, 255, 255, 0.5)"><span style="color:#a67f59">*</span></span> y_pred<span style="color:#999999">)</span> <span style="background-color:rgba(255, 255, 255, 0.5)"><span style="color:#a67f59">/</span></span> K<span style="color:#999999">.</span>sum<span style="color:#999999">(</span>y_true <span style="background-color:rgba(255, 255, 255, 0.5)"><span style="color:#a67f59">+</span></span> y_pred<span style="color:#999999">)</span></code></span></span>

能有这么简单，主要就是因为GlobalPointer的“Global”，它的y_true和y_pred本身就已经是实体级别了，通过y_pred > 0我们就可以知道哪些实体被抽取出来的，然后做个匹配就可以算出各种（实体级别的）指标，达到了训练、评估、预测的一致性。

优化F1值 #

GlobalPointer的“Global”还有一个好处，就是如果我们用它来做阅读理解的话，它可以直接优化阅读理解的F1指标！阅读理解的F1跟NER的F1有所不同，它是答案的一个模糊匹配程度，直接优化F1可能更有利于提高阅读理解的最终得分。将GlobalPointer用于阅读理解，相当于就只有一种实体类型的NER，此时我们定义

p(i,j)=es(i,j)∑i≤jes(i,j)(5)(5)p(i,j)=es(i,j)∑i≤jes(i,j)

而有了p(i,j)p(i,j)之后，用强化学习的思想（参考《殊途同归的策略梯度与零阶优化》），优化F1就是以下述函数为损失：

−∑i≤jp(i,j)f1(i,j)+λ∑i≤jp(i,j)logp(i,j)(6)(6)−∑i≤jp(i,j)f1(i,j)+λ∑i≤jp(i,j)log⁡p(i,j)

这里的f1(i,j)f1(i,j)就是提前算好的片段t[i:j]t[i:j]与标准答案之间的F1相似度，λλ是一个超参数。当然，算出所有的f1(i,j)f1(i,j)成本可能会有点大，但它是一次性的，而且可以在计算时做些策略（比如首尾差别过大就直接置零），总的来说，可以控制在能接受的范围。如果为了提高阅读理解最终的F1，这是一种比较直接的可以尝试的方案。（笔者在今年的百度lic2021阅读理解赛道上尝试过，确实能有一定的效果。）

实验结果 #

现在一切准备就绪，马上就能够开始实验了，实验代码整理如下：

开源地址：GitHub - bojone/GlobalPointer: 全局指针统一处理嵌套与非嵌套NER

目前GlobalPointer已经内置在bert4keras>=0.10.6中，bert4keras的用户可以直接升级bert4keras使用。实验的三个任务均为中文NER任务，前两个为非嵌套NER，第三个为嵌套NER，它们的训练集文本长度统计信息为：

人民日报NERCLUENERCMeEE平均字数46.9337.3854.15字数标准差30.0810.7180.27平均字数字数标准差人民日报NER46.9330.08CLUENER37.3810.71CMeEE54.1580.27

人民日报 #

首先，我们验证一下在非嵌套场景GlobalPointer能否取代CRF，语料是经典的人民日报语料，baseline是BERT+CRF的组合，而对比的是BERT+GlobalPointer的组合，实验结果如下：

人民日报NER实验结果CRFGlobalPointer (w/o RoPE)GlobalPointer (w/ RoPE)验证集F196.39%54.35%96.25%测试集F195.46%62.59%95.51%训练速度1x1.61x1.56x预测速度1x1.13x1.11x人民日报NER实验结果验证集F1测试集F1训练速度预测速度CRF96.39%95.46%1x1xGlobalPointer (w/o RoPE)54.35%62.59%1.61x1.13xGlobalPointer (w/ RoPE)96.25%95.51%1.56x1.11x

首先，表格中带来最大视觉冲击力的无疑是GlobalPointer有无RoPE的差距，达到了30个点以上！这说明了给GlobalPointer显式加入相对位置信息的重要性，后面的实验中我们将不再验证去掉RoPE的版本，默认都加上RoPE。

从表格中还可以看出，在经典的非嵌套NER任务中，效果上GlobalPointer可以跟CRF相媲美，速度上GlobalPointer还更胜一筹，称得上是又快又好了。

CLUENER #

当然，可能因为人民日报这个经典任务的起点已经很高了，所以拉不开差距。为此，我们在测一下比较新的CLUENER数据集，这个数据集也是非嵌套的，当前SOTA的F1是81%左右。BERT+CRF与BERT+GlobalPointer的对比如下：

CLUENER实验结果CRFGlobalPointer验证集F179.51%80.03%测试集F178.70%79.44%训练速度1x1.22x预测速度1x1xCLUENER实验结果验证集F1测试集F1训练速度预测速度CRF79.51%78.70%1x1xGlobalPointer80.03%79.44%1.22x1x

这个实验结果说明了，当NER难度增加之后，哪怕只是非嵌套的场景，GlobalPointer的效果能优于CRF，这说明对于NER场景，GlobalPointer其实比CRF更加好用。后面我们将对此做个简单的理论分析，进一步说明GlobalPointer相比CRF在理论上就更加合理。

至于速度方面，由于这个任务的文本长度普遍较短，因此GlobalPointer的速度增幅也没有那么明显。

CMeEE #

最后，我们来测一个嵌套的任务（CMeEE），它是去年biendata上的“中文医学文本命名实体识别”比赛，也是今年的“中文医疗信息处理挑战榜CBLUE”的任务1，简单来说就是医学方面的NER，带有一定的嵌套实体。同样比较CRF和GlobalPointer的效果：

CMeEE实验结果CRFGlobalPointer验证集F163.81%64.84%测试集F164.39%65.98%训练速度1x1.52x预测速度1x1.13xCMeEE实验结果验证集F1测试集F1训练速度预测速度CRF63.81%64.39%1x1xGlobalPointer64.84%65.98%1.52x1.13x

可以看到效果上GlobalPointer明显地优于CRF；速度方面，综合三个任务的结果，总的来说文本越长的任务，GlobalPointer的训练加速就越明显，而预测速度通常也略有提升，但幅度没有训练阶段大。随后笔者以RoBERTa large为encoder继续捣鼓了一下，发现线上测试集就可以（不是太难地）达到67%以上，这说明GlobalPointer是一个“称职”的设计了。

当然，可能有读者会诟病：你拿非嵌套的CRF去做嵌套的NER，这样跟GlobalPointer比肯定不公平呀。确实会有点，但是问题不大，一方面CMeEE目前的F1还比较低，嵌套的实体本来就不多，哪怕去掉嵌套部分当成非嵌套的来做，影响也不会太大；另一方面就是在嵌套NER方面，笔者还没发现比较简单明快的设计可以作为baseline跑跑的，所以就还是先跑个CRF看看了。欢迎读者报告其他设计的对比结果。

思考拓展 #

在本节中，我们将进一步对CRF和GlobalPointer做一个理论上的对比，并且介绍一些与GlobalPointer相关的工作，以方便读者更好地理解和定位GlobalPointer。

相比CRF #

CRF（条件随机场，Conditional Random Field）是序列标注的经典设计，由于大多数NER也能转化为序列标注问题，所以CRF也算是NER的经典方法，笔者也曾撰写过《简明条件随机场CRF介绍（附带纯Keras实现）》和《你的CRF层的学习率可能不够大》等文章来介绍CRF。在之前的介绍中，我们介绍过，如果序列标注的标签数为kk，那么逐帧softmax和CRF的区别在于：

前者将序列标注看成是 nn个 kk分类问题，后者将序列标注看成是 11个 knkn分类问题。

这句话事实上也说明了逐帧softmax和CRF用于NER时的理论上的缺点。怎么理解呢？逐帧softmax将序列标注看成是nn个kk分类问题，那是过于宽松了，因为某个位置上的标注标签预测对了，不代表实体就能正确抽取出来了，起码有一个片段的标签都对了才算对；相反，CRF将序列标注看成是11个knkn分类问题，则又过于严格了，因为这意味着它要求所有实体都预测正确才算对，只对部分实体也不给分。虽然实际使用中我们用CRF也能出现部分正确的预测结果，但那只能说明模型本身的泛化能力好，CRF本身的设计确实包含了“全对才给分”的意思。

所以，CRF在理论上确实都存在不大合理的地方，而相比之下，GlobalPointer则更加贴近使用和评测场景：它本身就是以实体为单位的，并且它设计为一个“多标签分类”问题，这样它的损失函数和评价指标都是实体颗粒度的，哪怕只对一部分也得到了合理的打分。因此，哪怕在非嵌套NER场景，GlobalPointer能取得比CRF好也是“情理之中”的。

加性乘性 #

在具体实现上，TPLinker与GlobalPointer的一个主要区别是在Multi-Head上TPLinker用的是加性Attention：

sα(i,j)=Wo,αtanh(Wh,α[hi,hj]+bh,α)+bo,α(7)(7)sα(i,j)=Wo,αtanh⁡(Wh,α[hi,hj]+bh,α)+bo,α

目前尚不清楚该选择与式(1)(1)的效果差异有多大，但是相比式(1)(1)的乘性Attention，虽然它们的理论复杂度相似，但实际实现上这种加性Attention的计算成本会大很多，尤其是空间成本（显存）会大很多～

所以笔者认为，就算加性效果确实比乘性好一些，也应该选择在乘性的基础上继续优化才行，因为加性的效率确实不行啊。此外，TPLinker等文章也没有像本文一样报告过相对位置信息的重要性，难道在加性Attention中相对位置不那么重要了？这些暂时还不得而知。

本文小结 #

本文介绍了一种NER的新设计GlobalPointer，它基于全局指针的思想，融合了笔者之前的一些研究结果，实现了用统一的方式处理嵌套和非嵌套NER的“理想设计”。实验结果显示，在非嵌套的情形下它能取得媲美CRF的效果，而在嵌套情形它也有不错的效果。

参考资料：

GlobalPointer：用统一的方式处理嵌套和非嵌套NER - 科学空间|Scientific Spaces

GPLinker：基于GlobalPointer的实体关系联合抽取 - 科学空间|Scientific Spaces

u013250861

关注

0
点赞
踩
14

收藏

觉得还不错? 一键收藏
0
评论
NLP-信息抽取-NER-2022：Global Pointer

本文将介绍一个称为GlobalPointer的设计，它利用全局归一化的思路来进行命名实体识别（NER），可以无差别地识别嵌套实体和非嵌套实体，在非嵌套（Flat NER）的情形下它能取得媲美CRF的效果，而在嵌套（Nested NER）情形它也有不错的效果。所以，CRF在理论上确实都存在不大合理的地方，而相比之下，GlobalPointer则更加贴近使用和评测场景：它本身就是以实体为单位的，并且它设计为一个“多标签分类”问题，这样它的损失函数和评价指标都是实体颗粒度的，哪怕只对一部分也得到了合理的打分。
复制链接

扫一扫