聚类方法

几种相似度/距离计算方法

闵可夫斯基距离/欧氏距离
$$dist(X,Y)={\sum _{i=1}^n({|x_i-y_i|}^p)}^{1/p}$$
杰卡德相似系数
$$J(A,B)=|\frac{A\bigcap B}{A\bigcup B}|$$
余弦相似度
$$cos(\theta )=\frac{a^{T}b}{|a|\cdot |b|}$$
Pearson相似系数
$${\rho }_{XY}=\frac{cov(X,Y)}{{\sigma }_X{\sigma }_Y}=\frac{E|(X-{\mu }_X)(Y-{\mu }_Y)|}{{\sigma }_X{\sigma }_Y}=\frac{{\sum }_{i=1}^n(X_i-{\mu }_X)(Y_i-{\mu }_Y)}{\sqrt{{\sum }_{i=1}^n(X_i-{\mu }_X{)}^2}\sqrt{{\sum }_{i=1}^n(Y_i-{\mu }_Y{)}^2}}$$
相对熵(K-L距离)
$$D(p||q)=\sum _{x}p(x)\log \frac{p(x)}{q(x)}=E_{p(x)}\log \frac{p(x)}{q(x)}$$

K-means算法(待补充）

密度最大值聚类

定义局部密度${\rho }_i$
$$\rho =\sum _j\chi (d_{ij}-d_c),\chi (x)=\{\begin{array}{rl}1& :x<0\\ 0& :otherwise\end{array}$$
$dc$:截断距离

${\rho }_i$:到点i的距离（相似度）小于dc的点的个数

高局部密度点距离

$${\delta }_i=mi{n}_{j:{\rho }_j>{\rho }_i}(d_{ij})$$
在密度高于对象i的所有对象中，到对象i最近的距离

簇中心的识别

• 有着比较大的局部密度$\rho_i$和很大的高局部密度点距离$\delta_i$的店为簇中心。
• 高局部密度较大但局部密度较小的点是异常点。

可靠性：对边界和噪声的认

拉普拉斯矩阵及其性质

拉普拉斯矩阵$L=D-W$
$$f^{\prime }Lf=\frac{1}{2}\sum _{i,j=1}^n{w}^{ij}(f_i-f_j{)}^2$$
L是对称半正定矩阵，有n个非负实特征值。性质：令G是权值非负的无向图，L的特征值0的重数K等于图G的连通分量数。