Transformer 是目前 NLP 研究领域中特别重要的模型,也衍生出了很多基于 Transformer 的方法,例如 BERT、GPT,在很多 NLP 任务中有很好的效果。但是这些模型也存在一些局限,其中包括 Self-Attention 的复杂度问题 (其复杂度是输入序列长度的平方)。Google 的研究人员提出了 Big Bird 模型,使用了稀疏注意力机制,将复杂度降到线性。
参考资料:
Big Bird:支持更长序列的 Transformer
“芝麻街”喜添新成员——Big bird
疑是NeurIPS 2020|芝麻街新成员-Big bird