机器学习是有边界的,对于训练数据没有体现数据真实分布、构建的模型不能刻画数据规律、决策度量偏离数据理解的情况,使用机器学习的方法将失效,因此要想使用机器学习,我们必须精心构建学习机的每个部分。
由于上课时对感知机模型的收敛性证明还没完全理解,于是在课后查阅资料仔细理解了感知机模型的学习过程和收敛性分析。感知机模型是一个非常经典的用来进行二分类的分类模型,由Rosenblatt在1957年提出,感知机模型的收敛性证明由Novikoff在1962年提出,因此感知机的收敛性也被称为Novikoff定理。
感知机的学习过程就是求出将训练数据进行线性划分的分类超平面过程。如下图所示,有两类点,记为-1和+1,需要求出一条直线(超平面,用wx+b=0来表示)来将它们进行划分,我们最后需要得到参数w和b,参数求解的过程就是感知机学习过程。