虽然说感知机这个模型,现在基本不会被用到了,但是基础还是要打牢。感知机是svm和mlp(Multilayer Perceptron)的前身。以下关于公式和推导参考了其他博客(有说明出处知乎引用),另外加入了自己的理解。
1.总体概括
感知机,是解决二分类问题的模型,在空间中找到一个最优的超平面,把样本分成两类。超平面表达式,感知机的预测函数:
,在超平面上方,预测为正类,在超平面下方,预测为负类。理想目标是全部样本预测正确,实际不一定能实现,预测值和真实值相乘小于0,取负大于0,
,yi属于{1,-1},点xi到超平面的距离为
,损失定义为所有分错样本与超平面