Scikit-learn——SVM

1. Support Vector Machines

支持向量机（SVM）是一组用于分类（classification）， 回归(regression)和异常值检测(outliers detection)的监督学习方法。

支持向量机的优点是：

• 在高维空间有效。
• 在维度数量大于样本数量的情况下仍然有效。
• 在决策功能（称为支持向量）中使用训练点的子集，因此它也是内存有效的。
• 多功能：可以为决策功能指定不同的内核函数。提供通用内核，但也可以指定自定义内核。

支持向量机的缺点包括：

• 如果特征数量远远大于样本数量，则该方法可能会导致较差的性能。
• 支持向量机不直接提供概率估计，这些是使用昂贵的五-折交叉验证计算的（参见下面的分数和概率）。

2. Kernel function

• linear:$\;\;\langle x,x'\rangle$
• polynomial:$\;\;(\gamma\langle x,x'\rangle+r)^d,$
• rbf:$\;\;exp(-\gamma||x-x'||^2),$
<