异常检测学习之高维数据

感想

在实际场景中，很多数据集都是多维度的。在高维空
间中，所有点对的距离几乎都是相等的（距离集中），这使得一些基于距离的方法失效。在高维场景下，一个常用的方法是子空间方法。
常见的方法有Feature Bagging 和孤立森林。
1、Feature Bagging
实现步骤：
①、选择基检测器。这些基本检测器可以彼此完全不同，或不同的参数设置，或使用不同采样的子数据集。Feature bagging常用lof算法为基算法。
②、分数标准化和组合方法：不同检测器可能会在不同的尺度上产生分数。例如，平均k近邻检测器会输出原始距离分数，而LOF算法会输出归一化值。另外，尽管一般情况是输出较大的异常值分数，但有些检测器会输出较小的异常值分数。因此，需要将来自各种检测器的分数转换成可以有意义的组合的归一化值。分数标准化之后，还要选择一个组合函数将不同基本检测器的得分进行组合，最常见的选择包括平均和最大化组合函数。
2、孤立森林
采用生成树的方法。步骤：
①、从训练数据中随机选择一个样本子集，放入树的根节点；
②、 随机指定一个属性，随机产生一个切割点V，即属性A的最大值和最小值之间的某个数；
③、根据属性A对每个样本分类，把A小于V的样本放在当前节点的左孩子中，大于等于V的样本放在右孩子中，这样就形成了2个子空间；
④、在孩子节点中递归步骤2和3，不断地构造左孩子和右孩子，直到孩子节点中只有一个数据，或树的高度达到了限定高度。
获得t棵树之后，孤立森林的训练就结束，就可以用生成的孤立森林来评估测试数据。

参考资料：https://github.com/datawhalechina/team-learning-data-mining/blob/master/AnomalyDetection/%E4%BA%94%E3%80%81%E9%AB%98%E7%BB%B4%E5%BC%82%E5%B8%B8.md