[统计学习方法]感知机(Perceptron)算法（原始形式）的实例（例题求解）

例2.1 求解：
对正实例点$x_1=(3,3)^T，x_2=(4,3)^T，$负实例点$x_3=(1,1)^T$
解 构建最优化问题：

按照感知机学习算法的原始形式求解$w,b。η=1.$

（1）取初值$w_0= [0, 0]，b_0= 0$
（2）对$x_1=(3,3)^T，y_1 (w_0 x_1+b_0 )=0，$未能被正确分类，更新$w,b$

$$w_1=(3,3)^T←w_0+ηy_1 x_1$$
$$b_1=1←b_0+ηy_1$$
对$x_1=(3,3)^T，y_1 (w_1 x_1+b_1 )>0,$
对$x_2=(4,3)^T，y_2 (w_1 x_2+b_1 )>0.$

（3）对$x_3=(1,1)^T，y_3 (w_1 x_3+b_1 )<0，$未能被正确分类，更新$w_1,b_1$

$$w_2=(2,2)^T←w_1+ηy_3 x_3$$
$$b_2=0←b_1+ηy_3$$

（4）对$x_3=(1,1)^T，y_3 (w_2 x_3+b_2 )<0$，未能被正确分类，更新$w_2,b_2$

$$w_3=(1,1)^T←w_2+ηy_3 x_3$$
$$b_3=-1←b_2+ηy_3$$

（5）对$x_3=(1,1)^T，y_3 (w_3 x_3+b_3 )<0$，未能被正确分类，更新$w_3,b_3$

$$w_4=(0,0)^T←w_3+ηy_3 x_3$$
$$b_4=-2←b_3+ηy_3$$
对$x_3=(1,1)^T，y_3 (w_4 x_3+b_4 )>0.$

（6）对$x_1=(3,3)^T，y_1 (w_4 x_1+b_4 )<0，$未能被正确分类，更新$w_4,b_4$

$$w_5=(3,3)^T←w_4+ηy_1 x_1$$
$$b_5=-1←b_4+ηy_1$$
对$x_1=(3,3)^T，y_1 (w_5 x_1+b_5 )>0,$
对$x_2=(4,3)^T，y_2 (w_5 x_2+b_5 )>0.$

（7）对$x_3=(1,1)^T，y_3 (w_5 x_3+b_5 )<0，$未能被正确分类，更新$w_5,b_5$

$$w_6=(2,2)^T←w_5+ηy_3 x_3$$
$$b_6=-2←b_5+ηy_3$$

（8）对$x_3=(1,1)^T，y_3 (w_6 x_3+b_6 )<0，$未能被正确分类，更新$w_6,b_6$

$$w_7=(1,1)^T←w_6+ηy_3 x_3$$
$$b_7=-3←b_6+ηy_3$$
对$x_1=(3,3)^T，y_1 (w_7 x_1+b_7 )>0,$
对$x_2=(4,3)^T，y_2 (w_7 x_2+b_7 )>0.$