python机器学习05:支持向量机SVM算法

1.支持向量机的原理和基本构造

1.定义：

在SVM算法中，训练模型的过程实际上是对每个数据点对于数据分类决定边界的重要性进行判断。也就是说在训练数据集中，只有一部分数据对于边界的确定是有帮助的，我们把那一部分有帮助的点的向量，称为“支持向量”，这也是“支持向量机”名字的由来。

2.SVM算法的核函数：

将二维数据变成三维的过程，称为将数据投射至高维空间，也就是SVM算法的核函数功能。

3.SVM算法最普遍的核函数有两种：

1.多项式内核(Polynomial kernel)：通过把样本原始特征进行乘方来把数据投射到高维空间，比如特征1乘2次方、特征2乘3次方，特征3乘5次方等。
2.径向基内核（Radial basis function kernel,RBF）：RBF内核也被称为高斯内核（Gaussian kernel），接下来详细介绍RBF内核。

2.支持向量机的核函数

1.构造kernel=linear的线性内核的svm模型

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
from sklearn.datasets import make_blobs


# 先创建50个数据点，让它们分为两类
X, y = make_blobs(n_samples=50, centers=2, random_state=6)

#