感知机1957年由Rosenblatt提出,是二分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,即+1和-1。感知机对应于特征空间中将实例划分为正负两类的分离超平面。感知机学习的目的是找出将训练数据正确划分的线性分离超平面,具体的方法是使用梯度下降法尝试不断减少损失函数。---感知机是神经网络和支持向量机(SVM)的基础。
1.定义
感知机的输入空间为:为n维特征向量
输出空间为:{-1,+1}---即类别
函数为f(x)=sign(w.x+b)
参数说明:w为n维实向量,称为权值向量,b为实数,称为偏置。sign为符号函数,即
感知机的解释如下:
线性方程 w.x +b=0;对应于特征空间中的一个超平面S,其中w是超平面的法向量,b是超平面的截距。
超平面将特征空间中的点分为正,负两部分,因此S又被称为分离超平面,展示如下: