- 聚类如何判断好坏?没有明确的标准
- 以类间的相似度尽量低,类内的相似度尽量高
- 数据预处理注意:不要改变原数据分布
- K-Means
- 原理:样本与簇中心的距离的均值最小化的方法
- 算法复杂度:O(t · k · n)。t是迭代次数、k是中心点个数、n是点的个数(主要原因)
- 限制:预先知道目标分类数量K值
- 优点:简单、收敛迅速
- 缺点:对噪点和偏离值敏感、局部最优(比如初始点选取不好)、只能处理球形分布
- Sequential Leader Clustering(顺序先导聚类)
- 原理:样本与簇中心的距离的均值最小化的方法
- 算法复杂度:O(k · n)。k是中心点个数、n是点的个数(主要原因)
- 适用于:流数据(带有时间概念的),用于研究社交网络(进入时间不同会影响分类结果)
- 优点:无需迭代、不需要K值(通过操纵阈值控制“K”)
- 缺点:进程不同、结果不一(局部最优)
- Model Based Method(基于模型的方法)
- 经典算法:Gaussian mixture(适用于(椭)球形数据分布)
- 好处:
- 模式再现(以相同的模式生成新数据)
- 对数据分布描述更准确,一个样本可能属于多个簇
- 原理:高斯函数。期望最大法:模型参数、隐含参数
- 限制:基本符合高斯分布的数据
- 缺点:局部最优
- Density Based Methods
- 原理:基于密度或连通性
- 适用于:常用于图形图像
- 好处:可适用于非规则图形、可处理噪点
- Hierarchical Methods
- 原理:bottom up
- 优势:任意多簇
- K-Means Revisited
- model parameters:需要(n个高斯)模型的参数(mean、std)
- latent parameters:Z(空间中一个点) 。Z属于哪个簇,例如Z={0,1}即Z属于Cluster2
- 迭代到:上一次与下一次的聚类结果几乎没有变化为止
- 神经元网络中类似模型参数和隐含参数的元素是什么?
- model parameter:权重
- latent parameter:误差
- model parameter:权重
- 思考:
- 凡是用到迭代式方法的模型,都用到了类似model parameter、latent parameter的方法
- 聚类问题的评价标准
- J值:适用于球形数据
- Silhouette:轮廓系数是否适合球形数据?
第六章总结
最新推荐文章于 2024-08-20 13:13:08 发布