R中的距离与聚类

摘要: 聚类是建模的起点,在没有目标的前提下,对研究对象按照距离分为不用的组。组内的距离尽可能小,组间距离尽可能大;最常用的两种聚类方法是系统聚类和k-means。

简介:

聚类是建模的起点,在没有目标的前提下,对研究对象按照距离分为不用的组。组内的距离尽可能小,组间距离尽可能大;最常用的两种聚类方法是系统聚类和k-means;

系统聚类是基于距离的聚类,计算量相对较大;相比之下k-means因计算量小,占内存小,方法简单而应用范围更广,尤其是在目前数据量比较大的情况下。

系统聚类:

系统聚类的思想是把每个样本看成一类,计算两两之间的距离,把距离最近的两个样本合并为一个新类,计算新类与其他样本的距离,对距离最近的再次合并,重复此过程,直到所有样本合并为一类;系统聚类的关键点为距离和不同量纲数据的标准化。

系统聚类主要函数介绍:

基于iris数据集的实例:

k-means聚类:

k-means分类的思想是:先粗略分一下类,然后按照某种最优原则修改不合理的分类,直至分类趋于合理。

(iris.km <-kmeans(iris,3))

K-means clustering with 3 clusters of sizes 50, 62, 38

Cluster means:
  Sepal.Length Sepal.Width Petal.Length Petal.Width
1     5.006000    3.428000     1.462000    0.246000
2     5.901613    2.748387     4.393548    1.433871
3     6.850000    3.073684     5.742105    2.071053

## 聚类后的类标号,因为iris数据按照类别排列,发现2与3类别相对模糊;类别1聚类效果较好
Clustering vector:
  [1] 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1
 [46] 1 1 1 1 1 2 2 3 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 3 2 2 2 2 2 2 2 2 2 2 2 2
 [91] 2 2 2 2 2 2 2 2 2 2 3 2 3 3 3 3 2 3 3 3 3 3 3 2 2 3 3 3 3 2 3 2 3 2 3 3 2 2 3 3 3 3 3 2 3
[136] 3 3 3 2 3 3 3 2 3 3 3 2 3 3 2

## 基于方差变异分解的思想,组间方差越大效果越好;
Within cluster sum of squares by cluster:
[1] 15.15100 39.82097 23.87947
 (between_SS / total_SS =  88.4 %)

## 聚类结果中的组件,可类似看成list中的元素;
Available components:

[1] "cluster"      "centers"      "totss"        "withinss"     "tot.withinss" "betweenss"   
[7] "size"  

plot(iris[c("Sepal.Length", "Sepal.Width")], col = km$cluster)
## 画聚类的中心
points(km$centers[,c("Sepal.Length", "Sepal.Width")], col = 1:3,pch = 8, cex=2)

聚类的最终目的是生成优良的”簇“,我理解簇是数据业务层面的理解;做一个好的聚类可能要有多轮循环,基于现有的数据聚类,簇评估及发现线索,基于新发现的线索对数据进行处理再次聚类,这其中可能包含数据指标的再提取、离异点的删除、数据的变换等。

本文仅介绍比较常见的两种聚类方法。

 

参考资料:

[1] 统计建模与R软件

[2] Rdatamining

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值