文章标题

k-means 聚类hadoop 平台

思路

1.1

在参考了
《数据算法-hadoop 、spark 》 289 页;文章 Research on Parallel k-means Algorithm Design Based on Hadoop Platform 基于云计算平台Hadoop的并行k-means聚类算法设计研究;http://blog.csdn.net/kghwettwe/article/details/43917107 代码
大概了解了 k-means 的流程


1.2

 在map 主要做的是计算各个数据点与聚类中心的距离并且找出与样本对应的最近中心。  计算新的聚类中心(key,value )输入key Mapreduce默认格式 ,即当前样本相对于输入数据文件其实点的偏移量, value 是当前样本各维度的值组成的字符串。输出: (key‘,value’)key‘是距离最近簇下标,value’是 样本点。

reduce 阶段:根据map阶段的(key,value)重新计算聚类中心,更新聚类中心。输出:(key.id(下标),新的聚类中心>)    

 在map阶段,减少数据通信,需要在本地map(key,value)做一次conbine(),减少数据大小,具体是根据key,相加value的每个维度,并记录count.

后续实现代码

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值