基于模糊C均值聚类（FCM）的图像分割原理

基于模糊C均值聚类（FCM）的图像分割原理

图像分割概述

图像分割就是把图像细分为构成它的对象或子区域，这些区域是互不相交的，每个区域都满足特定区域的一致性。分割的程度主要取决于人们想要解决的问题，当感兴趣的区域或对象已经被区分出来，分割就算是完成了。计算机视觉中的图像理解，包括目标检测、特征提取和目标识别都依赖于图像分割的质量。

目前，图像分割算法一般书围绕高亮度值的两个基本特性设计的：不连续性和相似性。亮度值的不连续性的应用途径主要是基于像素点特性，如灰度值，的不连续变化分割图像，如最常用的边缘检测。而利用亮度值的相似性可以形成一套机制，即依据事先指定的准则将图像分割为相似的区域。一些实例包括门限处理、区域分离、区域生长和聚类等。而采用模糊C均值聚类及其扩展算法进行图像分割的好处是避免了阈值的设定问题，聚类的过程不需要人工干预，只需输入预想的分类数目即可实现自动化的图像分割。

FCM聚类算法（Fuzzy C- Means）

1. FCM原理

模糊C均值聚类- FCM的核心就是“模糊”，相较于K-means这种“硬”聚类，FCM提供了更为灵活的聚类结果。对于图像中像素点的分割往往并不能划分成明显分离的簇类，讲一个对象划分到一个特定的簇是由一些不符合客观认知的。

模糊指的就是对每个对象和每个簇类赋予一个权值，指明一个对象属于该簇的可能程度即可。当然基于概率的方法也可以给出一个权值，但是实际情况中往往很难给出一个合适的统计模型用以计算权值，所以自然的，非概率特性的FCM聚类算法就是一个比较好的选择。

2. FCM聚类流程

1. 设置目标函数的精度，模糊指数与算法的最大迭代次数
2. 初始化隶属度矩阵$U^k$
3. 计算聚类中心$C$
4. 更新隶属度矩阵$U^{k+1}$
5. 判断是否满足迭代终止条件，如果不满足则继续进行3，4
6. 如果满足终止条件则停止迭代并返回聚类的簇类结果。

3. 具体步骤

Step 1. 初始化隶属度矩阵

FCM模糊聚类算法中将只取$1$或$0$的普通集合概念推广到$0\to 1$区间内的多个取值，即隶属度，用“隶属度”来描述数据点和聚类中心之间的隶属关系。
$$U_{n\times m}^{(0)}=[u_{ij}]$$
在公式（1）中，$U_{n\times k}^{(0)}$表示初始隶属度矩阵，$n$表示数据集中数据对象的个数，$m$表示簇类的个数，$u_{ij}$表示数据对象$x_i$对簇类中心$c_j\in C=[c_{j\in [1,2,\dots ,m]}]$的隶属度，其数值越大，数据对象越靠近聚类中心$c_j$。

Step 2. 判断是否超过最大迭代次数

设定最大迭代次数$max\_iter$的值，判断当前迭代次数$iter$是否超过了最大迭代次数。如果超过了则直接返回聚类结果，如果未超过则继续后续过程。

Step 3. 计算聚类中心

传统均值聚类算法在确定聚类中心时，一般最简单的就是找到属于某一类的所有样本点，然后这一类的类中心就是这些样本点的平均值。而对于FCM模糊聚类而言，在聚类中心$c_j$确定之后，首先将所有点到该类的隶属度求和${\sum }_{i=1}^n{u}_{ij}$，然后对于每个点，隶属度除以隶属度和就是所占的比重，乘以$x_i$就是当前数据对象点对于这个类$j$的贡献值：
$$c_j=\frac{{\sum }_{i=1}^n(u_{ij}^m\cdot x_i)}{{\sum }_{i=1}^n{u}_{ij}^m}=\sum _{i=1}^n(\frac{u_{ij}^m}{{\sum }_{i=1}^n{u}_{ij}^m}\cdot x_i)$$
如公式（2）中，$c_j$表示第$j$个簇类中心，$n$表示数据集中数据对象的个数，$m$表示聚类簇的个数，$u_{ij}$表示对象$x_i$与聚类中心$c_j$之间的隶属度。

Step 4. 更新隶属度矩阵

基于Step 3 中计算所得的各簇类中心点及原始数据集合，通过隶属度计算公式对隶属度矩阵进行更新：
$$u_{ij}=\frac{1}{{\sum }_{k=1}^m(\frac{||x_i-c_j||}{||x_i-c_k||}{)}^{\frac{2}{m-1}}}$$
如公式（3）中，$u_{ij}$表示更新后的对象$x_i$和聚类中心$c_j$之间的隶属度，$m$表示聚类的簇类数量。由分式的下半部分可知，其中分子表示对象$x_i$到簇类中心$c_j$的距离，而分母则表示当前对象到所有聚类中心的距离之和，因此，当对象$x_i$越靠近聚类中心$c_j$，则下半部分整体值越小，隶属度$u_{ij}$则越大。

Step 5. 判断是否满足迭代终止条件

在不超过最大迭代次数的前提下，迭代终止条件如下：
max ⁡ i j { ∣ u i j ( i t e r ) − u ( i t e r − 1 ) ∣ } ≤ ε \max_{ij}{\{|u_{ij}^{(iter)}-u^{(iter-1)}|\}}\le\varepsilon ijmax​{∣uij(iter)​−u(iter−1)∣}≤ε
如公式（4）中，$u_{ij}^{(iter)}$表示在当前迭代次数$iter$下更新的对象$x_i$与簇类中心$x_j$之间的隶属度，$u_{ij}^{(iter-1)}$表示更新之前的对象$x_i$与聚类中心$x_j$之间的隶属度，$\epsilon$表示误差阈值。上式含义为，继续迭代，隶属度不再发生较大变化时，即认为隶属度不变，即已经达到局部最优或全局最优状态，迭代结束，并返回模糊聚类结果。

FCM算法推导

• 定义数据集大小为$m$，聚类中心点个数为$c$，$u_{ij}$为第$j$个中心点的隶属度，并且$0<u_{ij}<1$，显然有${\sum }_{j=1}^c{u}_{ij}=1,i=1,2,3,\cdots ,m$

• 类似于K-means算法中的距离概念，定义：
  $$J=\sum _{i=1}^n\sum _{j=1}^c{u}_{ij}^{\alpha }||x_i-c_j|{|}^2$$
  其中$\alpha$为超参数，$||x_i-c_j||$表示第$i$个数据到第$j$个中心的距离。显然为了让分类更加合理，$J$应当尽可能地小。换言之，当$J$不再减小或者减小幅度足够小时，算法结束。

• 运用拉格朗日乘子法合并函数$J$和约束条件${\sum }_{j=1}^c{u}_{ij}=1,i=1,2,\dots ,m$得到
  $$J=\sum _{i=1}^n\sum _{j=1}^c{u}_{ij}^{\alpha }||x_i-c_j|{|}^2+\sum _{i=1}^m{\lambda }_i(\sum _{j=1}^c{u}_{ij}-1)$$
  这里对输入参数求导，从而得到目标函数达到最小值的条件：
  $$\begin{gathered} z_j=\frac{{\sum }_{i=1}^m{u}_{ij}^{\alpha }{x}_i}{{\sum }_{i=1}^m{u}_{ij}^{\alpha }} \\ {u}_{ij}=\frac{1}{{\sum }_{k=1}^c(\frac{d_{ij}}{d_{ik}}{)}^{\frac{2}{\alpha -1}}} \end{gathered}$$

传统FCM图像分割实例

对于上图分别进行FCM聚类分割与K-means聚类分割的效果图如下：

K=3的K- means

K=3的FCM

K=4的K-means

K=4的FCM

FCM算法改进

对于FCM算法的改进这里仅包括在图像分割领域常有的改进，其中包括：FCM_S1，FCM_S2，EnFCM，FGFCM，FLICM，NWFCM，KWFLICM，NDFCM，FRFCM

未完待续

1. FLICM

FLICM是一种基于局部空间信息模糊聚类的图像分割算法。它融合了新的正则因子$G_{ki}$，表达了该聚类充分利用局部空间信息和局部灰度信息，可以达到算法抵抗噪声干扰的目的。其表达形式为：
$$G_{ki}=\sum _{j\in N_i;i\ne j}\frac{1}{d_{ij}+1}(1-u_{kj}{)}^m||x_j-v_k|{|}^2$$

公式（8）中，$x_i$是中心像素点，$x_j$是邻域像素，$d_{ij}=||x_j-v_k||$表示邻域像素到中心像素的欧式距离，$u_{kj}$表示像素$x_i$属于第$k$类的隶属度，$v_k$表示第$k$类的聚类中心，$m$是模糊加权指数。

FLICM算法所对应的聚类目标函数为：
$$J_m=\sum _{i=1}^N\sum _{k=1}^c[u_{ki}^m||x_i-v_k|{|}^2+G_{ki}]$$
公式（9）中，$x_i$表示第$i$个像素的灰度值，$v_k$表示第$k$类的聚类中心，$u_{kj}$表示像素$x_i$属于第$k$类的隶属度，$N$是像素个数，$m$是模糊加权指数。

再满足${\sum }_{k=1}^c{u}_{ki}=1,u_{ki}\in [0,1],i=1,2,\dots ,N$的条件下，聚类中心和隶属度迭代表达式为：
$$u_{ki}=\frac{1}{{\sum }_{j=1}^c(\frac{||x_i-v_k|{|}^2+G_{ki}}{||x_i-x_j|{|}^2+G_{ji}}{)}^{\frac{1}{m-1}}}$$

$$v_k=\frac{{\sum }_{i=1}^N{u}_{ki}^m{x}_i}{{\sum }_{i=1}^N{u}_{ki}^m}$$

公式（11）中与传统FCM算法中的$v_k$表达式相同，但是二者的聚类目标函数并不相同。

1.1 FLICM的特征

FLICM中定义了一种新颖的模糊因子用以替代ENFCM和FCM- S及其变体中使用的参数$a$和FGFCM中使用的$\lambda$，新的模糊局部邻域因子可以自动确定空间和灰度关系，并且完全不需要任何参数选择。

1. 它相对独立于噪声的类型，因此，在没有先验的噪声知识情况下，他是FCM聚类变种的更好的选择。
2. 模糊局部约束以模糊方式同时合并了局部空间和局部灰度关系。
3. 可以自动确定模糊局部约束，因此不需要任何参数的确定。
4. 通过模糊的局部约束自动实现图像细节和噪点之间的平衡，同时增强了聚类性能。

2. NW-FCM

3. GG- FCM

一种半监督的FCM，其中通过考虑每个像素的局部邻域来确定几何条件。

4. FCM-S

其中对经典FCM的目标函数进行了修改，以补偿强度的不均匀性，并允许像素的标记受到其紧邻像素的影响。FCM-S的一个缺点就是每一次迭代过程中都需要计算邻域标签。

FCM-S允许像素的标记受到紧邻像素影响的方式为，以邻域效应充当正则化器，并使解决方案偏向于分段均质标记，修改后的目标函数为：
$$J_m=\sum _{i=1}^N\sum _{j=1}^c{u}_{ji}^m||x_i-v_j|{|}^2+\frac{a}{N_R}\sum _{i=1}^N\sum _{j=1}^c{u}_{ji}^m\sum _{r\in N_i}||x_r-v_j|{|}^2$$
公式（12）中$x_i$是第$i$个像素的灰度值，$N$是像素总数，$v_j$是第$j$个中心的原型值，$u_{ji}$表示第$i$个像素相对于聚类$j$的模糊隶属关系，$N_R$是其基数，$x_r$代表$x_i$的邻居，$N_i$代表落入像素$x_i$周围窗口的邻居集合。参数$a$用于控制紧邻项的效果。根据定义，每个采样点$x_i$满足${\sum }_c{u}_{ji}=1$的约束。

隶属度矩阵与聚类中心点的计算如下：
$$u_{ij}=(\sum _{k=1}^c(\frac{||x_j-v_i|{|}^2+\frac{\alpha }{N_R}{\sum }_{r\in N_j}||x_r-v_i|{|}^2}{||x_j-v_k|{|}^2+\frac{\alpha }{N_R}{\sum }_{r\in N_j}||x_r-v_k|{|}^2}{)}^{\frac{1}{m-1}}{)}^{-1}$$

$$v_i=\frac{{\sum }_{j=1}^n{u}_{ij}^m(x_j+\frac{\alpha }{N_R}{\sum }_{r\in N_j}{x}_r)}{(1+\alpha ){\sum }_{j=1}^n{u}_{ij}^m}$$

公式（14）分子中的$\frac{{\sum }_{r\in N_j}{x}_r}{N_R}$实际上是窗口内$x_i$附近的紧邻像素点的平均灰度值，即由图像像素周围的所有相邻平均值组成的均值滤波图像。

5. FCM-S1，FCM-S2

FCM- S的两个变体用一减少计算时间，这两种算法分别引入了额外的均值和中值滤波图像，这些图像可以预先计算，以代替FCM-S的邻域项，因此，FCM-S1与FCM-S2的执行时间都大大减少了。

6. ENFCM

增强的FCM算法来加速图像的分割过程。首先由原始图像和每个像素的局部邻域平均灰度级形成线性加权和图像，然后，基于灰度直方图而不是求和图像的像素执行聚类。由于图像中的灰度级数通常比其像素小得多，因此减少了ENFCM算法的计算时间。

7. FGFCM

该算法结合了空间信息，局部像素邻域的强度和图像中的灰度级数。该算法从原始图像及其局部空间和灰度邻域形成非线性加权和图像，由于基于灰度直方图进行聚类，因此FGFCM的计算时间非常短，分割图像的质量得到了很好的增强。

8. ENFCM与FGFCM的问题

ENFCM与FGFCM具有相同的关键参数$a$或者$\lambda$。此参数的作用是用于控制原始图像及其对应的均值或中值滤波图像之间的折中。这个参数对于性能有很大的影响，但是这个参数是矛盾的，若是要对抗图像中存在的大量噪声，就需要将这个参数设置的比较大，另一方面，需要设置足够小的参数用于保持图像的清晰度和细节。因此，$a$的确定实际上在某种程度上取决于噪声。对于图像中的所有像素邻域，$a$的值是固定的。