论文浅尝 | SMBOP: Semi-autoregressive Bottom-up Semantic Parsing

笔记整理：陈永锐，东南大学博士

来源：NAACL 2021

概述

近年来语义解析的事实上的标准解码方法是使用自顶向下的深度优先遍历对目标程序的抽象语法树进行自回归解码。该工作提出了一种替代方法：半自回归自底向上解析器（SMBOP），它在解码步骤 t 构建高度为 t 的 top-K 子树。与自上而下的自回归解析相比，我们的解析器享有多项优势。

从效率的角度来看，自下而上的解析允许并行解码特定高度的所有子树，导致对数运行时复杂度而不是线性。

从建模的角度来看，自下而上的解析器在每一步学习有意义的语义子程序的表示，而不是语义空的部分树。

在Spider数据集上，与使用自回归解码的语义解析器相比，SMBOP 使解码时间加快了 2.2 倍，训练时间加快了 5 倍，获得了69.5%的完全匹配准确率， 71.1 %的执行准确率。

动机

尽管语义解析中的自下而上解码很少受到关注，它实际上存在几