支持向量机(Support Vector Machine, SVM)可用于模式分类以及非线性回归。其主要思想是建立一个分类超平面作为决策曲面,使得正样品和负样品之间的隔离边缘最大化。SVM的理论基础是统计学习理论,是结构风险最小化的近似实现。这个原理基于这样的事实:机器学习在测试数据上的误差率(泛化误差率)以训练误差率和一个依赖于VC维数的项的和为界,在可分模式的情况下,SVM对于前一项的值为零,并且使第二项最小化。在模式分类的问题上SVM能提供良好的泛化性能,这个属性是SVM特有的。其具有通用性、鲁棒性、有效性、计算简单以及理论完善等有点。
SVM体系结构如下