我们已学习了 k k k均值算法,在此基础上若加上一些监督信息,则得到半监督聚类。
半监督聚类
对照 k k k均值算法【西瓜书图9.2】算法学习【西瓜书图13.7】和【西瓜书图13.9】算法。
(1)约束 k k k均值算法【西瓜书图13.7】
将“必连”和“勿连”的约束,作为监督信息,其基本要点是在【西瓜书图9.2】的 k k k均值算法程序中,将 x i \boldsymbol{x}_i xi划入聚类簇时,需要判断是否有违背约束(算法的第10句),这里补充检验算法。
考虑一个样本出发有多个“必连”和多个“勿连”约束。 设实线为“必连”,虚线为“勿连”。
初始化时,对既有“必连”又有“勿连”形成的三角形进行检查,图13.4 中的(a)产生矛盾,报错;(b)为合法情况。
算法的第10句,需要对 x i \boldsymbol{x}_i xi与 C r C_r Cr中样本的情况进行讨论:
(i)
x
i
\boldsymbol{x}_i
xi与
C
r
C_r
Cr中样本
x
j
\boldsymbol{x}_j
xj既无“必连”又无“勿连”,即
x
i
\boldsymbol{x}_i
xi可根据其他条件确定是否划入
C
r
C_r
Cr中
i
s
_
v
i
o
l
a
t
e
d
=
f
a
l
s
e
\begin{align*} \mathrm{is\_violated=false} \end{align*}
is_violated=false
(ii)
x
i
\boldsymbol{x}_i
xi与
C
r
C_r
Cr中样本
x
j
\boldsymbol{x}_j
xj有“必连”无“勿连”,即
x
i
\boldsymbol{x}_i
xi可划入
C
r
C_r
Cr中
i
s
_
v
i
o
l
a
t
e
d
=
f
a
l
s
e
\begin{align*} \mathrm{is\_violated=false} \end{align*}
is_violated=false
(iii)
x
i
\boldsymbol{x}_i
xi与
C
r
C_r
Cr中样本
x
j
\boldsymbol{x}_j
xj无“必连”有“勿连”,即
x
i
\boldsymbol{x}_i
xi不可划入
C
r
C_r
Cr中
i
s
_
v
i
o
l
a
t
e
d
=
t
r
u
e
\begin{align*} \mathrm{is\_violated=true} \end{align*}
is_violated=true
(iv)
x
i
\boldsymbol{x}_i
xi与
C
r
C_r
Cr中样本
x
j
\boldsymbol{x}_j
xj既有“必连”也有“勿连”,出现如下图13.5 矛盾情况,这时报错。
(2)约束种子 k k k均值算法【西瓜书图13.9】
监督信息是少量有标记样本,基本要点是:
(i) 将有标记样本作为“种子”,以此来初始化聚类中心 μ i \boldsymbol{\mu }_i μi,第1至3句;
(ii) 不改变“种子”的簇隶属关系,以此来初始化各簇,第6至10句。
(iii) 对非种子样本,按 k k k均值算法【西瓜书图9.2】中的方法归入各簇,第11至15句。
(iv) 调整簇中心,第16至18句,进入下一轮循环(第4句),直至停机条件满足(第19句)。
本文为原创,您可以:
- 点赞(支持博主)
- 收藏(待以后看)
- 转发(他考研或学习,正需要)
- 评论(或讨论)
- 引用(支持原创)
- 不侵权
上一篇:13.5 基于分歧的方法(多学习器间的差异、协同训练算法)
下一篇:14.1 隐马尔可夫模型HMM(状态变量(隐的)、观测变量(可见))