机器学习模型中的线性分类器与非线性分类器

何为线性与非线性

按照集合的角度来看，线性和非线性可以将集合填满，即一个分类器不是线性的就是非线性的。那何为线性呢，就是说分类器的决策边界为线性函数形式

判断方式

以二分类的逻辑回归为例，给出结论：逻辑回归为线性分类器，证明如下：
要证明逻辑回归为线性分类器，只需要证明其决策边界为线性函数形式。
而逻辑回归中
$$p(y=1|x;w,b)=\frac{1}{1+{\exp }^{-(\theta x+b)}}$$
$$p(y=0|x;w,b)=\frac{{\exp }^{-(\theta x+b)}}{1+{\exp }^{-(\theta x+b)}}$$
我们知道，判断逻辑回归为正样本还是负样本时，做法是比较上面这两个式子哪个大哪个小，即上式哪一项大于0.5，则最后在判断时将其预测为哪一类。从这里可以推断出来，在决策边界上有$p(y=1|x;w,b)=p(y=0|x;w,b)$，如果化简，可以得到其决策边界为$$\theta x+b=0$$显然这是一个线性的决策边界，即逻辑回归为线性分类器