支持向量机SVM原理及代码推导

导包并创建数据

#导包
import numpy as np
import matplotlib.pyplot as plt
from sklearn.svm import SVC
from mpl_toolkits.mplot3d import Axes3D
#数据创建
X=np.random.randn(1000,2)
y=[1 if i>0 else 0 for i in X[:,0]*X[:,1]]
plt.scatter(X[:,0],X[:,1],c=y)
plt.savefig('./1.png',dpi=300) ；

• 绘制出我们创建的数据
  
• 我们利用SVM原理进行建模

#建模
svc=SVC(kernel='poly',degree=2) #这里kernel属于我们超参数
svc.fit(X,y)
svc.score(X,y)
#创建预测数据
f1=np.linspace(-3,3,200)
f2=np.linspace(-3,3,180)
F1,F2=np.meshgrid(f1,f2)
X_test=np.column_stack([F1.ravel(),F2.ravel()])
plt.scatter(X_test[:,0],X_test[:,1])
plt.savefig('./2.png',dpi=300)

• 预测数据
  
• 算法预测

y_=svc.predict(X_test)
plt.scatter(X_test[:,0],X_test[:,1],c=y_)
plt.savefig('./3.png',dpi=300)

• 绘制预测轮廓线

d=svc.decision_function(X_test)   #d是我们边界点距离轮廓线距离
plt.figure(figsize=(6,6))
plt.contour(F1,F2,d.reshape(180,200))
plt.savefig('./4.png',dpi=300)

• 轮廓面

plt.figure(figsize=(6,6))
plt.contourf(F1,F2,d.reshape(180,200))
plt.savefig('./5.png',dpi=300)

• 预测面三维图

plt.figure(figsize=(9,6))
ax=plt.subplot(111,projection='3d')
ax.contourf(F1,F2,d.reshape(-1,200))
ax.view_init(40,-50)
plt.savefig('./6.png',dpi=300)