二类线性分类模型-感知机

1.感知机模型

输出空间 y = { + 1 , − 1 } y=\{+1,-1\} y={ +1,−1},由输入空间到输出空间的如下函数：
$$f(x)=sign(w\cdot x+b)$$
称之为感知机。
符号函数：
$$sign(x)=\{\begin{array}{ll}+1& \text{x >=0}\\ -1& \text{x < 0}\end{array}$$

感知机有如下几何解释：线性方程：
$$w\cdot x+b=0$$
对应于特征空间$R^n$的一个超平面S，其中$w$是超平面的法向量，b是超平面的截距。这个超平面将特征空间划分为两个部分。位于两部分的点(特征向量)分别被分为正、负两类。所以S被称为分离超平面。

2.感知机学习策略

2.1 数据集的线性可分

对于 T = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , . . . . . . ( x n , y n ) } T=\{(x_1,y_1),(x_2,y_2),......(x_n,y_n)\} T={ (x1​,y1​),(x2​,y2​),......(x