学习记录625@python机器学习之支持向量机分类算法

概述

核心思想是画一条线或者一个平面或者更高维度的东西，将样本分离开，在支持向量机中有三个重要概念，也是组成支持向量机的重要构件
● 最大间隔：这条线要使得两个类别间隔最大，这是不断训练的结果。目标通过不断调整多维的“直线”——超平面，使得间隔最大化。所谓“支持向量”，就是所有数据点中直接参与计算使得间隔最大化的几个数据点，这是支持向量机的得名由来，也是支持向量机的全部核心算法。
● 高维映射：低维度现行不可分时，转向高维度再划分
● 核方法：低维变高维的函数方法

代码实战

# 导入第三方包
import pandas as pd
from sklearn.datasets import load_iris
from sklearn import model_selection
from sklearn.svm import SVC

X, y = load_iris(return_X_y=True)
# 样本拆分
X_train, X_test, y_train, y_test = model_selection.train_test_split(X, y,
                                                                    test_size=0.25, random_state=1234)

# 模型拟合
# criterion='gini'  默认是用criterion='gini' 基尼系数，也可以选择criterion='entropy'，基尼系数是最好的
clf=SVC().fit(X_train, y_train)
# 模型在测试数据集上的预测
gnb_pred = clf.predict(X_test)
print("预测值{}".format(gnb_pred))
print("原值{}".format(y_test))
print("得分：{}".format(clf.score(X_test,y_test)))

支持向量机目前仍然缺乏对非线性问题的通解，对于具体问题仍需要个案处理，在部分情况下要找到合适的核函数并不容易，这一限制使得支持向量机不那么易用。另外，原始的支持向量机使用间隔进行分类，因此只适合于二分类问题，但目前这种情况逐渐被改变，可较好的支持多分类。