#今日论文推荐#自监督学习效果差？Meta AI 提出 Q-score 快速过滤错误样本

#今日论文推荐#自监督学习效果差？Meta AI 提出 Q-score 快速过滤错误样本

自监督学习指的是不依靠人工标注数据，直接从数据中学习到有用的特征表示。自监督学习中所采用的监督信息可以是“是否属于同一实例样本”的二分类标签（对比学习），也可以是一段连续的自然语言文本的下一个词（自回归语言模型）。

然而自监督学习相关的论文看多了，感觉也就那么回事。除了可以减少对标注数据的依赖，下游任务中该分错类的case，照样会分错类。•᷄ࡇ•᷅

那么究竟有没有什么灵丹妙药可以缓解自监督模型在下游任务中出现分错类的情况呢？

最近 meta AI 的一篇工作研究了自监督模型在下游任务错误分类的原因，并且提出了缓解这一问题的方法，让我们一起来看看吧。

论文题目：Understanding Failure Modes of Self-Supervised Learning
详细解读：https://www.aminer.cn/research_report/6279d5667cb68b460fb44633?download=falsehttps://www.aminer.cn/research_report/6279d5667cb68b460fb44633?download=false
AMiner链接：https://www.aminer.cn/?f=cs