#LOF算法

a.每个数据点,计算它与其他点的距离
b.找到它的K近邻,计算LOF得分

clf=LocalOutlierFactor(n_neighbors=20,algorithm='auto',contamination=0.1,n_jobs=-1,p=2)

参数含义

●n_neighbors=20:即LOF算法中的k的值,检测的邻域点个数超过样本数则使用所有的样本进行检测
●algorithm = 'auto':使用的求解算法,使用默认值即可
●contamination = 0.1:范围为 (0, 0.5),表示样本中的异常点比例,默认为 0.1
● n_jobs = -1:并行任务数,设置为-1表示使用所有CPU进行工作
● p = 2:距离度量函数,默认使用欧式距离。

def localoutlierfactor(data, predict, k):
    from sklearn.neighbors import LocalOutlierFactor
    clf = LocalOutlierFactor(n_neighbors=k + 1, algorithm='auto', contamination=0.1, n_jobs=-1)
    clf.fit(data)
    # 记录 k 邻域距离
    predict['k distances'] = clf.kneighbors(predict)[0].max(axis=1)
    # 记录 LOF 离群因子,做相反数处理
    predict['local outlier factor'] = -clf._decision_function(predict.iloc[:, :-1])
    return predict

def plot_lof(result, method):
    import matplotlib.pyplot as plt
    plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
    plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号
    plt.figure(figsize=(8, 4)).add_subplot(111)
    plt.scatter(result[result['local outlier factor'] > method].index,
                result[result['local outlier factor'] > method]['local outlier factor'], c='red', s=50,
                marker='.', alpha=None,
                label='离群点')
    plt.scatter(result[result['local outlier factor'] <= method].index,
                result[result['local outlier factor'] <= method]['local outlier factor'], c='black', s=50,
                marker='.', alpha=None, label='正常点')
    plt.hlines(method, -2, 2 + max(result.index), linestyles='--')
    plt.xlim(-2, 2 + max(result.index))
    plt.title('LOF局部离群点检测', fontsize=13)
    plt.ylabel('局部离群因子', fontsize=15)
    plt.legend()
    plt.show()

def lof(data, predict=None, k=5, method=1, plot=True):
    import pandas as pd
    # 判断是否传入测试数据,若没有传入则测试数据赋值为训练数据
    try:
        if predict == None:
            predict = data.copy()
    except Exception:
        pass
    predict = pd.DataFrame(predict)
    # 计算 LOF 离群因子
    predict = localoutlierfactor(data, predict, k)
    if plot == True:
        plot_lof(predict, method)
    # 根据阈值划分离群点与正常点
    outliers = predict[predict['local outlier factor'] > method].sort_values(by='local outlier factor')
    inliers = predict[predict['local outlier factor'] <= method].sort_values(by='local outlier factor')
    return outliers, inliers
import numpy as np
import pandas as pd
import xlrd
# 根据文件位置自行修改
posi = pd.read_excel(r'./已结束项目任务数据.xls')
lon = np.array(posi["任务gps经度"][:])  # 经度
lat = np.array(posi["任务gps 纬度"][:])  # 纬度
A = list(zip(lat, lon))  # 按照纬度-经度匹配

# 获取任务密度,取第5邻域,阈值为2(LOF大于2认为是离群值)
outliers1, inliers1 = lof(A, k=5, method = 2)

Alt text

参考链接:
https://www.jianshu.com/p/8c5c0c903f27
https://zhuanlan.zhihu.com/p/28178476
异常检测的几种方法
https://xz.aliyun.com/t/5378

转载于:https://www.cnblogs.com/afanti/p/11009734.html

  • 0
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
引用\[1\]中提到,LOF算法是一种基于密度的局部离群点检测算法。它通过比较每个数据点与其邻域点的密度来判断该点是否为异常点。密度是通过点之间的距离来计算的,距离越远,密度越低,距离越近,密度越高。LOF算法的时间复杂度为O(n^2),因为需要计算数据点两两之间的距离。为了提高算法效率,可以使用FastLOF算法,它将数据随机分成多个子集,然后在每个子集中计算LOF值,从而减少计算量。 引用\[2\]中提到,使用LOF算法进行异常检测的步骤包括:计算每个数据点与其他点的距离,找到每个数据点的K近邻,然后计算LOF得分。 引用\[3\]中进一步解释了LOF算法的优势。相比于基于统计方法的异常检测算法和聚类算法LOF算法更简单直观,不需要对数据的分布做太多要求,并且能够量化每个数据点的异常程度。它适用于不同类簇密度分散情况迥异的数据。 至于在Matlab中实现LOF算法,可以使用现有的工具包或者自己编写代码来实现。Matlab提供了一些用于异常检测的函数和工具箱,例如使用LocalOutlierFactor函数可以计算LOF得分。另外,也可以根据LOF算法的原理,自己编写代码来实现算法。具体的实现方法可以参考相关的文献和教程。 #### 引用[.reference_title] - *1* *3* [异常检测 | MATLAB实现LOF局部离群因子时间序列异常数据检测算法](https://blog.csdn.net/kjm13182345320/article/details/125644313)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [#LOF算法](https://blog.csdn.net/weixin_30932215/article/details/99877703)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值