线性分类模型--感知机（perceptron）

线性分类模型--感知机（perceptron）

1. 引言-分类问题

    分类是监督学习的一个核心问题，在监督学习中，当输出变量Y取有限个离散值时，预测问题便成为分类问题，基本概念可以参考《机器学习方法概论1》。监督学习从数据中学习一个分类模型或分类决策函数，称为分类器（classifier）。分类器对新的输入进行输出的预测（prediction），称为分类（classification），可能的输出称为类（class），分类的类别为多个时，称为多类分类问题，主要研究的都为二分类问题[1]。许多机器学习方法都是可以用来解分类问题，比如：感知机、朴素贝叶斯、支持向量机、决策树、逻辑回归、AdaBoost、神经网络等等。下面就着重介绍最简单的感知机是怎么来解决二分类问题的，要知道，神经网络和支持向量机都是在感知机上扩展的，或者说感知机是神经网络和支持向量机的基础，所以把感知机弄清楚对于其它算法的理解还是挺有必要的。注意：感知机是一种线性分类模型，就是说数据必须是线性可分的(虽然实际中很难达到要求，但是可以通过一些方法将数据集变为线性可分)，属于判别模型( Discriminative Model