吴恩达机器学习笔记6-聚类

聚类算法是无监督学习算法

k-means算法是一个常用的聚类算法

算法过程
1. 簇分配。随机选择K个点作为聚类中心,遍历每个点,离A近的点算A类,离B近的点算B类,以此类推
2. 移动聚类中心。计算每一类的中心(平均值的点)
3. 重新计算每个点所属的类别。如果聚类中心不变,每个点的类别也不变,那么算法收敛,否则到2。

算法接收的输入
1. K,聚类的数量
2. 训练集 x1,x2,...,xn x 1 , x 2 , . . . , x n

注意:如果对于某个聚类中心,没有点分配给它,那么就直接移除这个聚类中心,减少为K-1类

k-means算法的优化目标
c(i) c ( i ) 表示第i类, μk μ k 表示第k类的聚类中心

J(c(1),...,c(m),μ1,...,μK)=1mi=1m||x(i)μc(i)||2 J ( c ( 1 ) , . . . , c ( m ) , μ 1 , . . . , μ K ) = 1 m ∑ i = 1 m | | x ( i ) − μ c ( i ) | | 2

如何避免局部最优

随机初始化有可能导致局部最优,所以需要尝试多次不同的初始值。

如何选择聚类的数量

肘部法则:不断地改变K值,然后计算cost,因为K越大cost越小,所以找下降最剧烈点的K值

根据实际情况选择

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值