本文探究在没有标签情况下只使用易于提供的规则作为多个弱监督源的文本分类方法。使用诱导规则进行文本分类是具有挑战性的,因为,规则并不能覆盖一些长尾的样本,并且使用规则的学习往往是具有噪声的。为了解决这两个问题,本文设计了一种标签去噪器,利用条件软注意机制估计可靠性,然后通过聚合规则标注的弱标签来降低标签噪声。降噪后的伪标签监督神经分类器预测不匹配样本的软标签,解决了规则覆盖问题。
Preliminaries
假设存在多个弱监源,彼此提供互补的信息。下面提供了一个具体的例子:
餐馆评价中涉及到的规则包含价格、服务、食物等多方面,这些源使用“if-else”标记函数从不同方面对领域知识进行编码。
Problem Formulation。形式上,方法需要一个待分类文档集合 D = { d 1