深度学习分类类别不平衡_「图像分类」 关于图像分类中类别不平衡那些事

作者&编辑 | 郭冰洋

1 简介

小伙伴们在利用公共数据集动手搭建图像分类模型时，有没有注意到这样一个问题呢——每个数据集不同类别的样本数目几乎都是一样的。这是因为不同类别的样例数目差异较小，对分类器的性能影响不大，可以在避免其他因素的影响下，充分反映分类模型的性能。反之，如果类别间的样例数目相差过大，会对学习过程造成一定的影响，从而导致分类模型的性能变差。这就是本篇文章将要讨论的类别不平衡问题(Class Imbalance)。

类别不平衡是指分类任务中不同类别的训练样本数目相差较大的情况，通常是由于样本较难采集或样本示例较少而引起的，经常出现在疾病类别诊断、欺诈类型判别等任务中。

尽管在传统机器学习领域内，有关类别不平衡的问题已经得到了详尽的研究，但在深度学习领域内，其相关探索随着深度学习的发展，经历了一个先抑后扬的过程。

在反向传播算法诞生初期，有关深度学习的研究尚未成熟，但仍有相关科研人员研究过类别样例的数目对梯度传播的影响，并得出样例数目较多的类别在反向传播时对权重占主导地位。这一现象会使网络训练初期，快速的降低数目较多类别的错误率，但随着训练的迭代次数增加，数目较少类的错误率会随之上升[1]。

随后的十余年里，由于深度学习受到计算资源的限制、数据集采集的难度较大等影响，相关研究并没有得到进一步的探索，直到近年来才大放异，而深度学习领域内的类别不平衡问题，也得到了更加深入的研究。

本篇文章将对目前涉及到的相关解决方案进行汇总，共分为数据层面、算法层面、数据和算法混合层面三个方面，仅列举具有代表性的方案阐述&#