读文章Content Enhanced BERT-based

最近在看NL2SQL的知识，看了一些文章。Text-to-SQL Generation，作者写道他是borrow了idea from TypeSQL，利用了typesql的一些知识。首先通过bert来embedding出词向量，BERT embedding层给定question的embedding我们遵循BERT约定，并关注BERT输入的问题标记和表头。具体编码如下:
BERT的embedding的输出在所有的下游任务中共享。
我们认为BERT的问题和表头串联输入可以对下游任务产生某种“全局”关注 。

接下来应该是对于各个不同的内容进行像之前的TypeSQL的操作，论文中有介绍到对于不同的输出我们想要的输入。
然后通过TypeSQL。整体下来和SQLova很相似，不过SQLova没有通过TypeSQL而是通过SQLNet。