感知机、SVM、神经网络的区别

感知机和SVM的区别：
1、相同点

都是属于监督学习的一种分类器（决策函数）。

2、不同点

感知机追求最大程度正确划分，最小化错误，很容易造成过拟合。支持向量机追求大致正确分类的同时，一定程度上避免过拟合

感知机使用的学习策略是梯度下降法；而SVM采用的是由不等式约束条件构造拉格朗日函数，然后求偏导令其为0，根据一大堆的ai参数（一直迭代到满足kkt条件为止，kkt条件是用来满足不等式约束下的拉格朗日乘子法的泛化），来最终求得w和b。

神经网络，在感知机基础上增加激活函数，loss有交叉熵等