感知机学习笔记

        从今天起，我会不定时更新机器学习学习心得，不会去写特别复杂的公式，因为这些公式在《统计学习方法》和《机器学习》上面都有，我也有标注和推导，也不期望像赵志勇师兄那样发书，只想通过我的学习笔记更多的记录我对这个知识点的理解与概括，方便我日后回顾复习时快速记忆。

感知机：

        首先，感知机（PLA）是一个二类分类的线性分类模型，输入的是特征向量，输出实例的类别，取+1和-1二值。感知机的实例必须是线性可分的，若不是线性可分，将一直进行迭代，无法停下。所以感知机的实际运用场景很局限。感知机分别两种形式，分别是原始形式和对偶形式。两种形式差别并不大，运算过程都一样，但通过对偶形式会事先计算好一些步骤的步骤的结果并存储到Gram矩阵中，因此可以加快运算速度，数据越多节省的计算次数就越多，因此对偶形式比原始形式更加的优化。感知机学习算法是误分类驱动的，采用随机梯度下降算法不断地极小化目标函数。

几个易混点：

1.     指的是实例点，指的是这个实例点所对应的分类区域，如=（3，3）此时将划为正实例点，那么此时=1，而不是坐标上的y轴。

2.    矩阵的计算：见《统计学习方法》P34例2.2手写笔记。