感知机学习算法的原始形式及其Python实现

1 描述

（1）模型：

其中 w * x 表示 w 与 x 的内积，sign 为符号函数，当 w * x + b >= 0时，为 1，否则为 -1。

（2）策略：

损失函数：

其中 M 为误分类点的集合。

（3）算法：

因此将问题转化为通过调节参数 w， b使得损失函数极小化，从而使得 M 中没有误分类的点。

2 思路

（1）选取初值w，b
（2）在训练集中选取数据（x，y）
（3）如果y（w * x + b）<= 0，利用随机梯度下降算法更新w，b
         梯度可以通过对损失函数分别对w，b求偏导可得。
         w = w + lr · y · x； b =