异常检测(四)之基于相似度的方法

本文介绍了基于距离和密度的异常值处理方法,包括基于最近邻距离和基于密度的异常检测。讨论了k-距离、k领域、可达距离、局部可达密度和局部异常因子等概念,用于判断异常值。并提到了使用sklearn和pyod库进行异常检测的实际应用。
摘要由CSDN通过智能技术生成

相似度两个维度:距离和密度
异常值和噪声:
噪声往往是没有规律的,特性较弱,没有分析的必要性。
异常值通常具有更高的离群程度,同时解释性更强。
因此在处理噪声时,区别出异常值与噪声、正常值的区别在异常检测中比较重要。

  1. 基于距离的异常值处理办法
    基于最近邻距离来定义异常值
    适应范围:多维数据,单维数据
    前提:异常点的 k k k 近邻距离要远大于正常点
    方法:遍历或者一些改进的方法增加距离计算的速度
    2.基于密度的异常值处理办法
    基于距离的计算值,定义k-距离、k领域、可达距离以及局部可达密度,最后得到局部异常因子,通过此因子来判断是否是异常值
    k-距离:
    在一个数据集中,以其中某一个对象为中心,对其余所有点到该对象的距离排序,距离该对象第k近的点与该对象的距离则为k-距离。
    满足:

在集合D中至少有k个点 o’,其中 o ′ ∈ D p o'∈D{p} oDp,满足 d ( p , o ′ ) ≤ d ( p , o ) d(p,o')≤d(p,o) d(p,o)d(p,o)
在集合D中最多有k-1个点o’,其中 o ′ ∈ D p o'∈D{p} oDp,满足 d ( p , o ; ) < d ( p , o ) d(p,o;)<d(p,o) d(p,o;)<d(p,o)

k领域:
上述k-距离中,到该对象的距离小于等于k-距离的所有点的集合即为k-领域
N k − d i s t a n c e ( p ) ( P ) = q ∈ D \ p ∣ d ( p , q ) ≤ k

  • 1
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于密度的时序数据异常检测方法是一种常用的异常检测方法,其优缺点如下: 优点: 1. 适用性广:基于密度的方法适用于各种类型的数据,包括连续和离散的数据,可以用于时间序列、图像、文本等各种数据类型。 2. 精度高:基于密度的方法能够准确地检测出数据中的异常点,能够发现各种类型的异常。 3. 无需标签数据:基于密度的方法通常不需要标签数据,即可以进行无监督学习,从而节省了人力成本。 4. 可解释性强:基于密度的方法可以通过计算数据点的密度来判断其是否为异常点,因此可以直观地解释检测结果。 缺点: 1. 计算复杂度高:基于密度的方法需要计算每个数据点与其他数据点之间的距离或相似度,因此对于大规模数据集,计算复杂度较高。 2. 敏感性差:基于密度的方法对于噪声点和局部异常点比较敏感,对于全局异常点的检测效果较差。 3. 数据分布要求高:基于密度的方法对数据的分布有一定的要求,如果数据分布较为稀疏或不均匀,可能会出现误判。 4. 参数选择困难:基于密度的方法需要选择合适的密度估计方法和参数,这对于非专业人员来说可能比较困难。 综上所述,基于密度的时序数据异常检测方法在实际应用中需要根据具体情况进行选择和调整,以充分发挥其优势,提高检测精度和鲁棒性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值