感知机

原理

  感知机是二类分类的线性分类模型，输出-1和+1。感知机对应于输入空间中将实例划分为正负两类的分离超平面。包括原始形式和对偶形式。

模型

  感知机模型：
  f(x)=sign(wx + b)

策略

  感知机策略：基于误分类驱动
  损失函数：误分类点到超平面的总距离

算法

  感知机算法：梯度下降法
  算法的收敛性：感知机学习算法会由于选用不同的初值或者选用不同的误分类点，解可以不同。
  算法的收敛性：对于线性可分的数据，经过有限次迭代可以得到一个将训练数据集完全分开的感知机模型。

感知机的对偶形式

感知机的对偶形式

今天终于把感知机彻底弄的明明白白了！