神经网络学习笔记-支持向量机（Support Vector Machine，SVM ）

基于误差反向传播算法的多层感知器
径向基函数网络
支持向量机（SupportVector Machine ， SVM ）
都是前馈神经网络 ，都用于解决模式分类与非线性映射问题 。
线性可分模式分类：支持向量机的主要思想是建立一个最优决策超平面 ，
使得该平面两侧距平面最近的两类样本之间的距离最大化 ，从而对分类问题提供良好的泛化能力 。
非线性可分模式分类问题 ， 根据 Cover 定理 ： 将复杂的模式分类问题非线性地投射到高维特征空间可能是线性可分的 ，因此只要变换是非线性的且特征空间的维数足够高 ， 则原始模式空间能变换为一个新的高维特征空间 ， 使得在特征空间中模式以较高的概率为线性可分的 。
支持向量机基于统计学习理论的原理性方法 ， 因此需要较深的数学基础 。
支持向量机建立的分类超平面能够在保证分类精度的同时 ， 使超平面两侧的空白区域最大化 ， 从而实现对线性可分问题的最优分类 。
最优超平面$W_0^T X+b_0=0$