多类情况1
用线性判别函数将属于
ω
i
\omega_{i}
ωi类的模式与不属于
ω
i
\omega_{i}
ωi类的模式分开。判别函数为:
d
i
(
x
)
=
w
i
T
x
=
{
>
0
i
f
x
∈
ω
i
≤
0
,
i
f
x
∉
ω
i
i
=
1
,
2
,
.
.
.
,
M
d_{i}(x)=w_{i}^{T}x=\left\{\begin{matrix}>0 \ if\ x\in \omega_{i}\\ \leq 0,\ if\ x\notin \omega_{i} \end{matrix}\right.\\ i=1,2,...,M
di(x)=wiTx={>0 if x∈ωi≤0, if x∈/ωii=1,2,...,M
这被称为
ω
i
/
ω
i
ˉ
\omega_{i}/\bar{\omega_{i}}
ωi/ωiˉ两分法,即把
M
M
M类多分类问题分成
M
M
M个二分类问题,因此共有
M
M
M个判别函数。对于
x
∈
ω
i
x\in \omega_{i}
x∈ωi,应同时满足
d
1
(
x
)
>
0
,
d
i
(
x
)
≤
0
,
i
=
2
,
.
.
.
,
M
d_{1}(x)>0,d_{i}(x)\leq 0,i=2,...,M
d1(x)>0,di(x)≤0,i=2,...,M
不确定区域:若对某一模式区域,
d
i
(
x
)
>
0
d_{i}(x)>0
di(x)>0的条件超过一个,或全部
d
i
(
x
)
≤
0
d_{i}(x)\leq 0
di(x)≤0,则分类失败,此区域被称为不确定区域(IR).
多类情况2
采用每对划分法,即
ω
i
/
ω
j
\omega_{i}/\omega_{j}
ωi/ωj两分法。此时一个判别界面只能分开两种类别,但不能把它与其他所有界面分开,判别函数为:
d
i
j
(
x
)
=
w
i
j
T
x
=
{
>
0
i
f
x
∈
ω
i
≤
0
,
i
f
x
∉
ω
i
∀
i
≠
j
d_{ij}(x)=w_{ij}^{T}x=\left\{\begin{matrix}>0 \ if\ x\in \omega_{i}\\ \leq 0,\ if\ x\notin \omega_{i} \end{matrix}\right.\\ \forall i \neq j
dij(x)=wijTx={>0 if x∈ωi≤0, if x∈/ωi∀i̸=j
重要性质:
d
i
j
=
−
d
j
i
d_{ij}=-d_{ji}
dij=−dji
所以要分开
M
M
M类模式,共需
M
(
M
−
1
)
2
\frac{M(M-1)}{2}
2M(M−1)
不确定区域: 若所有
d
i
j
(
x
)
d_{ij}(x)
dij(x),找不到
∀
j
≠
i
,
d
i
j
(
x
)
>
0
\forall j\neq i,d_{ij}(x)>0
∀j̸=i,dij(x)>0的情况
多类情况3
此类方法没有不确定区域的
ω
i
/
ω
j
\omega_{i}/\omega_{j}
ωi/ωj两分法。首先需要构造
M
M
M个判别函数:
d
k
(
x
)
=
w
k
T
x
,
k
=
1
,
2
,
.
.
.
,
M
d_{k}(x)=w_{k}^{T}x,k=1,2,...,M
dk(x)=wkTx,k=1,2,...,M
此时若存在:
d
i
(
x
)
=
max
{
d
k
(
x
)
,
k
=
1
,
2
,
.
.
.
,
M
}
d_{i}(x)=\max\{d_{k}(x),k=1,2,...,M\}
di(x)=max{dk(x),k=1,2,...,M}
则
x
∈
ω
i
x\in \omega_{i}
x∈ωi。也可以写为若
d
i
(
x
)
>
d
j
(
x
)
,
∀
j
≠
i
,
i
,
j
=
1
,
2
,
.
.
.
,
M
d_{i}(x)>d_{j}(x),\forall j\neq i,i,j=1,2,...,M
di(x)>dj(x),∀j̸=i,i,j=1,2,...,M,则
x
∈
ω
i
x\in \omega_{i}
x∈ωi。该分类的特点是把
M
M
M类情况分成
M
−
1
M-1
M−1个两类问题。