感知机模型

感知机模型

感知机模型的定义

感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别。通过梯度下降法降低损失函数的大小，不断优化模型的参数。
定义：假设输入空间（特征空间）是***x***， 输出空间是y = +1，-1，输入X 表示是实例的特征向量，对应于输入空间的点，输出y则表示实例的类别。有输入空间到输出空间的如下函数：
f(x) = sign(wx + b)
称为感知机。
感知机是一种先行分类模型，属于判别模型。感知机模型的假设空间是特征空间中所有线性分类器的集合。即函数集合{f|f(x) = wx + b}
感知机模型的集合解释：
线性方程 wx + b = 0
对应于特征空间R中的一个超平面S，w是该超平面的法向量，b则是超平面的截距。
该超平面将特征空间分为两部分，位于两部分的实例点被分为正反两类。
感知机模型的学习策略：
初始化参数w = 0, b = 0, 定义损失函数，利用随机梯度下降法，不断更新参数w和参数b.
损失函数：感知机所采用的损失函数是误分类的点到超平面的距离，