第六章总结

• 聚类如何判断好坏？没有明确的标准
  • 以类间的相似度尽量低，类内的相似度尽量高
• 数据预处理注意：不要改变原数据分布
• K-Means
  • 原理：样本与簇中心的距离的均值最小化的方法
  • 算法复杂度：O（t · k · n）。t是迭代次数、k是中心点个数、n是点的个数（主要原因）
  • 限制：预先知道目标分类数量K值
  • 优点：简单、收敛迅速
  • 缺点：对噪点和偏离值敏感、局部最优（比如初始点选取不好）、只能处理球形分布
• Sequential Leader Clustering(顺序先导聚类)
  • 原理：样本与簇中心的距离的均值最小化的方法
  • 算法复杂度：O（k · n）。k是中心点个数、n是点的个数（主要原因）
  • 适用于：流数据（带有时间概念的），用于研究社交网络（进入时间不同会影响分类结果）
  • 优点：无需迭代、不需要K值（通过操纵阈值控制“K”）
  • 缺点：进程不同、结果不一（局部最优）
• Model Based Method(基于模型的方法)
  • 经典算法：Gaussian mixture(适用于（椭）球形数据分布)
  • 好处：
    • 模式再现（以相同的模式生成新数据）
    • 对数据分布描述更准确，一个样本可能属于多个簇
  • 原理：高斯函数。期望最大法：模型参数、隐含参数
  • 限制：基本符合高斯分布的数据
  • 缺点：局部最优
• Density Based Methods
  • 原理：基于密度或连通性
  • 适用于：常用于图形图像
  • 好处：可适用于非规则图形、可处理噪点
  • www.naftaliharris.com/blog/visualizing-dbscan-clustering/
• Hierarchical Methods
  • 原理：bottom up
  • 优势：任意多簇
• K-Means Revisited
  • model parameters：需要（n个高斯）模型的参数（mean、std）
  • latent parameters：Z（空间中一个点） 。Z属于哪个簇，例如Z={0,1}即Z属于Cluster2

    

  • 迭代到：上一次与下一次的聚类结果几乎没有变化为止
  • 神经元网络中类似模型参数和隐含参数的元素是什么？
    • model parameter：权重
      • latent parameter：误差
  • 思考：
    • 凡是用到迭代式方法的模型，都用到了类似model parameter、latent parameter的方法
• 聚类问题的评价标准
  • J值：适用于球形数据
  • Silhouette：轮廓系数是否适合球形数据？