K-means 和 K-medoids算法聚类分析

 1    聚类是对物理的或者抽象的对象集合分组的过程，聚类生成的组称为簇，而簇是数据对象的集合。

        （1）簇内部的任意两个对象之间具有较高的相似度。（2）属于不同的簇的两个对象间具有较高的相异度。

 2    相异度可以根据描述对象的属性值来计算，最常用的度量指标是距离。

 3   聚类最初来自数学，统计学，和数值分析；机器学习领域把聚类描述成隐含模式，发现簇的过程是无监督学习；聚类是模式识别的重要手段。

 4    聚类的特点：用少量的簇来描述大量数据的特征：  数据简洁，丢失精细部分

 5   聚类数据挖掘实践中的应用

   （1） 数据预处理  （2） 科学数据探索 （3） 信息获取与文本挖掘  （4）  空间数据库应用 

   （5） 客户关系管理 （6） 市场分析  （7）  Web分析  （8）  医学诊断  （9）计算生物学。

6   统计学 ：  聚类分析是通过数据建模简化数据的一种方法：包括  系统聚类法，分解法，加入法，动态聚类法。有序样品聚类，有重叠聚类和模糊聚类等

7   机器学习：簇  相当于隐藏模式。聚类是搜索簇的无监督学习的过程

      与 分类不同。无监督学习不依赖预先定义的类或者带类标记的训练实例。需要有聚类学习算法自动确定标记。而分类学习

的实例或数据对象有类别标记。聚类是观察试学习，而不是实例式学习。

8   实际应用：聚类分析是数据挖掘的主要任务之一

    （1） 作为一个独立的工具获得数据的分布状况。观察每一个簇数据的特征，集中对特定的簇集合作进一步地分析。

     （2） 作为其他数据挖掘任务（如分类，关联规则）的预处理步骤

9   聚类算法的特征：

    （1）处理不同类型属性的能力；

    （2） 对大型数据集的可扩展性；
    （3） 处理高维数据的能力；
    （4） 发现任意形状簇的能力；
    （5） 处理孤立点或“噪声”数据的能力；
             对“噪声”数据具有较低的敏感性；
             合理地发现孤立点。
    （6） 对数据顺序的不敏感性；
    （7） 对先验知识和用户自定义参数的依赖性；
    （8） 聚类结果的可解释性和实用性；
    （9） 基于约束的聚类。

10  聚类算法分类：

    (1)  基于划分的方法：  K-means 算法    基于密度的算法

   （2） 基于层次的方法 ：  凝聚算法  分裂算法

   （3） 基于网络的 方法

   （4） 非数据与数据属性同时出现的方法

    （5）基于约束的方法

   （6） 运用机器学习技术的方法  ：梯度下降法  人工神经网络   进化模型

    （7） 有扩展性的算法

    （8） 面向高维数据集的算法

10   数据类型

     （1）区间标度型：用线性标度描述的连续度量  （如  高度   重量 经纬度坐标 温度等）

     （2）  布尔类型 ： 如果两个状态同等重要，称为对称的  否则是不对称的

     （3）  标称型： 有若干个离散的取值

     （4） 序数型：  取离散的序数值，序列排序是有意义的

     （5） 比例标度型：在非线性标度上取正的度量值。

11  数据结构   

                                      数据矩阵                                                                                                                                   相异度矩阵