线性判别函数的多分类情况

多类情况1

用线性判别函数将属于${\omega }_i$类的模式与不属于${\omega }_i$类的模式分开。判别函数为：
$$\begin{gathered} d_i(x)=w_i^{T}x=\{\begin{array}{c}>0ifx\in {\omega }_i\\ \le 0,ifx\notin {\omega }_i\end{array} \\ i=1,2,...,M \end{gathered}$$
这被称为${\omega }_i/\overline{{\omega }_i}$两分法，即把$M$类多分类问题分成$M$个二分类问题，因此共有$M$个判别函数。对于$x\in {\omega }_i$，应同时满足$d_1(x)>0,d_i(x)\le 0,i=2,...,M$
不确定区域：若对某一模式区域，$d_i(x)>0$的条件超过一个，或全部$d_i(x)\le 0$，则分类失败，此区域被称为不确定区域(IR).

多类情况2

采用每对划分法，即${\omega }_i/{\omega }_j$两分法。此时一个判别界面只能分开两种类别，但不能把它与其他所有界面分开，判别函数为：
$$\begin{gathered} d_{ij}(x)=w_{ij}^{T}x=\{\begin{array}{c}>0ifx\in {\omega }_i\\ \le 0,ifx\notin {\omega }_i\end{array} \\ \forall i̸=j \end{gathered}$$
重要性质：$d_{ij}=-d_{ji}$
所以要分开$M$类模式，共需$\frac{M(M-1)}{2}$
不确定区域： 若所有$d_{ij}(x)$，找不到$\forall j̸=i,d_{ij}(x)>0$的情况

多类情况3

此类方法没有不确定区域的${\omega }_i/{\omega }_j$两分法。首先需要构造$M$个判别函数：
$$d_k(x)=w_k^{T}x,k=1,2,...,M$$
此时若存在：
d i ( x ) = max ⁡ { d k ( x ) , k = 1 , 2 , . . . , M } d_{i}(x)=\max\{d_{k}(x),k=1,2,...,M\} di​(x)=max{dk​(x),k=1,2,...,M}
则$x\in {\omega }_i$。也可以写为若$d_i(x)>d_j(x),\forall j̸=i,i,j=1,2,...,M$,则$x\in {\omega }_i$。该分类的特点是把$M$类情况分成$M-1$个两类问题。