感知机算法的收敛证明，详细

之前零零散散学习机器学习，没细扣一些证明之类的东西，感觉能够支撑我对算法的理解就好，最近想出去找实习了，想想还是找本书扣一下细节。推荐大家一本李航教授写的《统计学习》写的很通俗，本文也是对该书相应部分进行详细备注的。（因为中间一些节点不说破看不懂，本人也是看了别人博客才弄清楚的）

希望对大家有所帮助，看懂了点个赞

——————————————————————我是分界线———————————————————————

首先先声明一下证明算法收敛的方向

收敛就是算法执行到某一步一定会结束，不然算法无穷无尽迭代下去怎么办

所以要先证明存在一个K，它就是迭代次数的一个上限

K存在的证明有两步

1. 证明成立
2. ，证明成立

   至于为什么是这两个公式，我只能说一点原因都没有，就是人家的数学修养好，知道要引出这两个东西好让最后得出K

那让我们先看看K的形式：

神奇吧！这个形式不就证明了K是有上限的吗？这就证明了算法收敛了(R和γ是什么先不管，看下面↓↓↓)

————————————————————————我还是分界线——————————————————————

#先交代一下权重w和偏置b的梯度如下：

---

                                    

---