文献阅读-CSC-Confusionset-guided Pointer Networks for Chinese Spelling Check

Confusionset-guided Pointer Networks for Chinese Spelling Check

作者：Tencent Cloud AI
时间：2019年
会议：ACL-2019
论文地址

其他：
Pointing the Unknown Words
文中的pointer借鉴 该文，其实颇有道理，但是有一个问题，中文中能看到的，都没有错字，而英文有 ahhfi，是个unk的，但是，眼镜蛇，每一个字都是对的。

简述：

输入：数据集-正确句子-错误句子-location–混淆集-M

怎么做：一个网络判断训练并判断哪个地方是错的-pointed-network，然后，正确的就赋值过去，错误的就在混淆集里面选，不过选的时候，因为seq2seq的encode是一个一个预测的，所以，这个时候，混淆集的选择，有更多“context”的信息，所以更好。that’s all

下一步，尝试复现。

做了什么事情-摘要

提出一个 基于 混淆集 的 指针网络。
更具体的说：用现有的混淆集去生成字符，为此，我们新颖的Seq2Seq模型共同学习通过指针网络从输入句子中复制正确的字符，或者从混乱集中而不是整个词汇表中生成字符

之前都是怎么做的-介绍

说了两个公认的背景信息，首先，中文单词之间没有单词定界符。其次，由于其上下文敏感特性，错误检测任务很困难，即，错误通常只能在短语/句子级别而不是字符级别确定

说实话，看半天感觉没说清楚干了什么。

模型具体内容

输入一个句子，然后经过一个seq2seq输出纠错后的句子。

混淆集

构建一个混淆集M

encoder

首先说明，在char-级别，因为，在word级别，会扩大，中文分词中的错误。

用双向LSTM和一个 软注意力，去对 输入的句子 进行 encode

decoder

再用一个 LSTM和注意力机制，像翻译一样，逐个解码。得到句子。

如何用混淆集，在预测下一个字的时候，当下一个字的位置上，在混淆集合里面是（就是说，这个字对应有很多混淆字），那么，就不是对所有的vocab 进行搜索，去预测下一个字，而是，只对混淆字去进行，搜索。

模糊集指导的复制机制，复制正确字符，从模糊集选出纠错字符，模糊集结合指针网络

这是ACL！