聚类
聚类通过样本之间的相似性
理解相似度度量
聚类就是对大量位置标注的数据集,按照数据的内在相似性将数据集划分为多个类别,使类内部相似度最大。
闵可夫斯基距离/欧氏距离
杰卡德相似系数
预先相似度
聚类基本思想:对于给定的类别数目k 首先给出初始划粉,通过迭代改变样本和簇的隶属关系,使得每一次改进之后的划分方案都较前一次好。
K-means 算法也被称为k均值,算法步骤
kmeans本身对噪声很敏感,不能过滤噪声
算法对初值很敏感,找到初值作为簇中心,簇中心选取时选择各中心之间的距离比较大,概率化的选择
高维时先用PCA降维,先过滤噪声 然后再将数据喂给算法
将噪声看做小类,将正常数据看做大类,将噪声剔除问题转换成不平衡数据的分类问题
kmeans也存在梯度下降时类似问题可能会震荡,损失值反复横跳
损失函数、代价函数
聚类的衡量指标 均一性:一个簇中只包含一个类别的样本,则满足均一性
完整性:同类别样本被归类到相同簇中,则满足完整性
V-measure 均一性和完整性加权平均
轮廓系数 计算样本到同簇其他像本的平均距离,距离越小,说明样本越应该被聚类到该簇,将该距离成为样本的簇内不相似度。