机器学习进阶-聚类

聚类

聚类通过样本之间的相似性

理解相似度度量

聚类就是对大量位置标注的数据集，按照数据的内在相似性将数据集划分为多个类别，使类内部相似度最大。

闵可夫斯基距离/欧氏距离

杰卡德相似系数

预先相似度

聚类基本思想：对于给定的类别数目k 首先给出初始划粉，通过迭代改变样本和簇的隶属关系，使得每一次改进之后的划分方案都较前一次好。

K-means 算法也被称为k均值，算法步骤 

kmeans本身对噪声很敏感，不能过滤噪声

算法对初值很敏感，找到初值作为簇中心，簇中心选取时选择各中心之间的距离比较大，概率化的选择

高维时先用PCA降维，先过滤噪声 然后再将数据喂给算法 

将噪声看做小类，将正常数据看做大类，将噪声剔除问题转换成不平衡数据的分类问题

kmeans也存在梯度下降时类似问题可能会震荡，损失值反复横跳

损失函数、代价函数

聚类的衡量指标 均一性：一个簇中只包含一个类别的样本，则满足均一性

                               完整性：同类别样本被归类到相同簇中，则满足完整性

                                V-measure 均一性和完整性加权平均

轮廓系数 计算样本到同簇其他像本的平均距离，距离越小，说明样本越应该被聚类到该簇，将该距离成为样本的簇内不相似度。