线性分类模型--感知机(perceptron)
1. 引言-分类问题
分类是监督学习的一个核心问题,在监督学习中,当输出变量Y取有限个离散值时,预测问题便成为分类问题,基本概念可以参考《机器学习方法概论1》。监督学习从数据中学习一个分类模型或分类决策函数,称为分类器(classifier)。分类器对新的输入进行输出的预测(prediction),称为分类(classification),可能的输出称为类(class),分类的类别为多个时,称为多类分类问题,主要研究的都为二分类问题[1]。许多机器学习方法都是可以用来解分类问题,比如:感知机、朴素贝叶斯、支持向量机、决策树、逻辑回归、AdaBoost、神经网络等等。下面就着重介绍最简单的感知机是怎么来解决二分类问题的,要知道,神经网络和支持向量机都是在感知机上扩展的,或者说感知机是神经网络和支持向量机的基础,所以把感知机弄清楚对于其它算法的理解还是挺有必要的。注意:感知机是一种线性分类模型,就是说数据必须是线性可分的(虽然实际中很难达到要求,但是可以通过一些方法将数据集变为线性可分),属于判别模型(
Discriminative Model