一、什么是感知机
感知机1957年由Rosenblatt提出,是神经网络与支持向量机的基础。感知机是二类分类的线性分类模型,其输入实例为实例的特征向量,输出为实例的类别,取+1和-1二值。
二 感知机模型
定义
假设输入空间是,输出空间是
,x和y分属这两个空间,那么由输入空间到输出空间的如下函数:
称为感知机。其中,w和b称为感知机模型参数,叫做权值或权值向量,
叫做偏置,w·x表示向量w和x的内积。sign是一个函数:
感知机的几何解释是,线性方程
将特征空间划分为正负两个部分:
这个平面(2维时退化为直线)称为分离超平面。
感知机学习策略
数据集的线性可分性
定义
给定数据集