【机器学习】 Local Outlier Factor（LOF）算法

参考

局部异常因子算法-Local Outlier Factor(LOF)
Outlier detection with Local Outlier Factor (LOF)

LOF算法

局部异常因子LOF算法（Local Outlier Factor），是一种基于距离的异常检测算法。
理解LOF算法可以从理解下面几个概念开始：

k-distance：第k距离

$d(p,o)$代表点$p$和点$o$之间的距离
点$p$的第k距离：$d_k(p)=d(p,o)$，$o$是距离$p$第k远的点（不包括$p$自身）

上图$d_5(p)$表示$p$的第5距离

k-distance neighborhood of p：第k距离邻域

点$p$的第k距离邻域$N_k(p)$，就是$p$的第k距离以内的所有点的个数，包括第k距离上的点，不包括点$p$

上图中$N_5(p)=6$

reach-distance：可达距离

点$o$到点$p$的第k可达距离定义为：
$reach$- d i s t a n c e k ( o , p ) = m a x { 点 o 的 第 k 距 离 ， o 到 p 的 距 离 } distance_k(o,p) = max \lbrace{点o的第k距离，o到p的距离\rbrace} distancek​(o,p)=max{点o的第k距离，o到p的距离}

注意上面提到的是：点$p$的第k距离、点$p$的第k距离邻域，圆心是$p$
这里提到的是：点$o$到点$p$的第k可达距离，圆心是$o$

上图中，$reach$-$distanc{e}_5(o_1,p)=点o_1到点p的距离$
上图中，$reach$-$distanc{e}_5(o_2,p)=点o_2的第5距离$

local reachability density：局部可达密度

点$p$的第k距离局部可达密度表示为：
点$p$的第k距离临域中所有的点，这些点到点$p$的第k可达距离的平均值的倒数

注意这里圆心是点$o$，点$o$是点$p$的第k距离临域中的点

$lr{d}_k(p)=\frac{N_k(p)}{p的第k距离邻域中所有的点，这些点到p的第k可达距离的和}$

这个值的含义可以这样理解，首先这代表一个密度，密度越高，我们认为越可能属于同一簇，密度越低，越可能是离群点。

如果$p$和周围邻域点是同一簇，那么可达距离越可能为较小的$d_k(o)$，导致可达距离之和较小，密度较高；如果p和周围邻域点较远，那么可达距离可能都会取较大值$d(o,p)$，导致密度较小，越可能是离群点。

local outlier factor：局部离群因子

点$p$的局部离群因子表示为：
点$p$的第k距离邻域$N_k(p)$中所有的点，这些点的第k距离局部可达密度的平均值，与点$p$的第k距离局部可达密度的比值

$LO{F}_k(p)=\frac{点p的第k距离邻域N_k(p)中所有的点，这些点的第k距离局部可达密度的平均值}{点p的第k距离局部可达密度}$

也就是说，点$p$的局部离群因子$=$点$p$邻域点的密度的平均值比上点$p$的密度

如果这个比值越接近1，说明$p$与其邻域点密度差不多，$p$可能和邻域同属一簇；如果这个比值越小于1，说明$p$的密度高于其邻域点密度，$p$为密集点；如果这个比值越大于1，说明$p$的密度小于其邻域点密度，$p$越可能是异常点

python中LOF算法的使用

pip install -U scikit-learn
# 使用pip安装sklearn

from sklearn.neighbors import LocalOutlierFactor

clf = LocalOutlierFactor(n_neighbors=20, contamination=0.1)
# n_neighbors就是上面介绍中的k，第k邻域
# contamination是异常点在全部点中的比例

y_pred = clf.fit_predict(X)  
# X是点的坐标，一个列表。每个元素又是一个列表，列表的两个数字元素，是点的坐标
# y_pred是预测的结果，1代表是inlier，-1代表是outlier

X_scores = clf.negative_outlier_factor_
# X_scores是计算的结果，都是负数，绝对值越大，越是outlier

结语

如果您有修改意见或问题，欢迎留言或者通过邮箱和我联系。
手打很辛苦，如果我的文章对您有帮助，转载请注明出处。