白话机器学习算法（十）感知机

感知机是神经网络里最简单的一种算法，由误分类驱动。

当正确分类时，权值矩阵不变，错误分类时候，用梯度下降法不断极小化目标函数，说得直接点，就是将权值向量的“稍微”指向误分类点。

这个方法背后的数学原理，就是梯度下降法。

总结：

只要线性可分，最终权值向量必然收敛，如果本身就不可分，那么权值向量会“震荡”，算法得不到解；

还有一个就是学习率，对应的就是梯度下降法的“步长”；