数据不平衡又称样本比例失衡,比如二分类问题,如果标签为1的样本占总数的99%,标签为0的样本占比1%则会导致判断「失误严重」,准确率虚高。
常见的解决不平衡问题的方法如下。
-
「数据采样」
数据采样分为上采样和下采样,上采样是将少量的数据通过重复复制使得各类别比例均衡,不过很容易导致过拟合问题,所以需要在新生成的数据中加入随机扰动。
下采样则相反,下采样是从多数类别中筛选出一部分从而使得各类别数据比例维持在正常水平,但容易丢失比较重要的信息,所以应该多次随机下采样。
-
「数据合成」是利用已有样本的特征相似性生成更多的样本。
-
「加权」是通过不同类别的错误施加不同的权重惩罚,使得ML时更侧重样本较少并容易出错的样本。
-
「一分类」
当正负样本比例失衡时候,可以利用One-class SVM,该算法利用「高斯核函数」将样本空间映射到「核空间」,在核空间找到一个包含「所有数据」的高维球体。如果测试数据位于这个高维球体之「中」,则归为多数类,否则为少数类。
❝
微信搜索:我们都是码农,点个关注不迷路啦!
❞