机器学习-支持向量机

支持向量机（SVM）

什么是SVM
支持向量机（SVM）是一个有监督的机器学习算法，它可用于分类和回归分析，最主要是用于分类问题中。
在这个算法中，根据特征值，构建一个n维空间（其中n即是特征数量），把每个数据点投影到此空间内。

数据如何分类
通过查找一个超平面，把数据区分为两类。换句话说，算法输出一个最佳超平面，用于数据分类。

什么是最佳超平面？
对SVM来说，它指的是距离两类数据最远的一个超平面。即是，此超平面到最近元素的距离最远。

调整参数：核函数（KERNEL)
学习线性SVM的超平面就是通过线性代数转化问题。这是核函数扮演的角色。多项式和径向基用于更高维度。这被称为核函数技巧。

调整参数：系数（GAMMA）
系数定义来单个训练集合的影响程度。小的系数值，距离远的点也会用于计算。而大的系数值，更多使用距离近的点。

调整参数：正则化（REGULARIZATION）
对于较大值的此参数，最好选择一个较小间距的超平面，如果这个超平面可以更好的区分训练集合点。相反地，对于非常小值的此参数，需要使用更大的间距，即使此超平面误区分更多的点。

间距（MARGIN）
间距指的是到最近点的分界线。
一个好的分界距离两类数据更远，且可以把一类的点区分开，而不需要穿过另外一类。

第1步：数据预处理

#导入相关库
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
#导入数据
dataset = pd.read_csv('Social_Network_Ads.csv')
X = dataset.iloc[:, [2, 3]].values
y = dataset.iloc[:, 4].values
#拆分数据集为训练集和和测试集合
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size = 0.2, random_state = 0)
#特征量化
from sklearn.preprocessing import StandardScaler
sc = StandardScaler()
X_train = sc.fit_transform(X_train)
X_test = sc.fit_transform