度量相似性数学建模_数学建模聚类讲解.ppt

数学建模聚类讲解

聚 类 分 析; 一、聚类分析(Cluster Analysis)简介 聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类的分析技术。;基本思想 ;基本思想 ; 要做聚类分析，首先得按照我们聚类的目的，从对象中提取出能表现这个目的的特征指标；然后根据亲疏程度进行分类。;R型是对变量进行分类处理，其作用在于：可以了解变量间及变量组合间的亲疏关系可以根据变量的聚类结果及它们之间的关系，选择主要变量进行回归分析或Q型聚类分析; 2 相似性度量;Q型样品间的“相似性”度量—距离; 3、明考斯基距离(Minkowski);6.马氏距离; 例1 欧洲各国的语言有许多相似之处，有的十分相似。为了研究这些语言的历史关系，也许通过比较他们数字的表达式比较恰当。表列举出英语，挪威语，丹麦语，荷兰语，德语，法语，西班牙语，意大利语，波兰语，匈牙利语和芬兰语的1,2,…,10的拼法，希望计算这11种语言之间的语言的距离.;11种欧洲语言的数词;选择适用的距离;1、夹角余弦; 三 系统聚类分析;第二步根据所确定的样品(或变量)“距离”公式， ;2. 类间距离 ; 用 i , j 表示样品 。用 表示 与 之间的距离, 用 与 表示两个类, 所包含的样品数分别为 与 之间的距离用 表示。下面给出四种最常用的类与类之间距离的定义。;1 、最短距离(Nearest Neighbor)

;; 1、根据样品的特征，规定样品之间的距离 ，共有 个。将所有列表，记为D(0)表，该表是一张对称表。所有的样本点各自为一类。; 3、利用递推公式计算新类与其它类之间的距离。分别删除D(0)表的第p，q行和第p，q列，并新增一行和一列添上的结果，产生D(1)表。; 4、在D(1)表再选择最小的非零数，其对应的两类有构成新类，再利用递推公式计算新类与其它类之间的距离。分别删除D(1)表的相应的行和列，并新增一行和一列添上的新类和旧类之间的距离。结果，产生D(2)表。类推直至所有的样本点归为一类为止。;最短距离法进行聚类分析的步骤如下：; 例2 设有6个样品，每个只测一个指标，分别是1，2，5，7，9，10，试采用绝对值距离用最短距离法将它们进行分类。; 解 (1)样品首先采用绝对值距离，计算样品之间的距离阵为D(0).;G2={2};2.最长距离(Furthest Neighbor )

;即定义 与 之间的距离为 与 中最远的两个样品的距离。 类与类之间的最长距离有如下的递推公式。设 由 与合并而成, 则 到 的最长距离为;;组内平均连接法(Within-group Linkage);4.重心法(Centroid clustering):均值点的距离

;将p和q合并为k，则k类的样品个数为; 例2 设有6个样品，每个只测一个指标，分别是1，2，5，7，9，10，试采用欧氏距离的平方,试用重心法将它们进行分类。;;D2(2);G1={1};5.动态聚类法(快速聚类法);基本思想：选取若干个样品作为凝聚点，计算每个样品和凝聚点的距离，进行初始分类，然后根据初始分类计算其重心，再进行第二次分类，一直到所有样品不再调整为止。;选择凝聚点; 用一个简单的例子来说明动态聚类法的工作过程。例如我们要把图中的点分成两类。快速聚类的步骤： 1、随机选取两个点 和 作为凝聚点。 2、对于任何点 ，分别计算 3、若 ，则将 划为第一类，否则划给第二类。 ;; (e) 第二次分类;动态聚类法 ;第一，选择凝聚点；第二，初始分类； 对于取定的凝聚点，视每个凝聚点为一类，将每个样品根据定义的距离向最近的凝聚点归类。第三，修改分类 得到初始分类，计算各类的重心，以这些重心作为新的凝聚点，重新进行分类，重复步骤2，3，直到分类的结果与上一步的分类结果相同，表明分类已经合理为止。;例3：某商店5位售货员的销售量和教育程度如下表：;选择凝聚点;对于取定的凝聚点，视每个凝聚点为一类，将每个样品根据定义的距离，向最近的凝聚点归类。;计算G1和G2的重心：G1的重心(1,1.5)，G2的重心(7.33,1.67);售货员;修改前后所分的类相同，故可停止修改。