sklearn.svm.LinearSVC
1、api
class
sklearn.svm.
LinearSVC
(penalty=’l2’, loss=’squared_hinge’, dual=True, tol=0.0001, C=1.0, multi_class=’ovr’, fit_intercept=True, intercept_scaling=1, class_weight=None, verbose=0, random_state=None, max_iter=1000)
类似于使用线性kernel的SVM,但是因为本身不拥有kernel,所以又不一样
2、参数的意义和返回值
参数:
penalty | "l1"/"l2",在svc中默认为“l2" |
loss | "hinge"/"squared_hinge", |
dual | 布尔型变量,在样本数》特征数的时候,建议选择false |
tol | 误差的tolerance,给定迭代次数,最后几次的差值大于这个值,会给出警告(没有收敛) |
c | svm的参数,参见svm的理论公式 |
multi_class | 多分类问题,‘ovr’ / ‘crammer_singer’,ovr是基于”one_over_all“的思想,(选出一个类,吧其他的类看做一个类来进行对待。) |
fit_intercept | 是否计算该模型的结局,建议选择True,可能以后要用到这个参数, |
intercept_scaling | 默认为1 |
class_weight | 把类别i的系数C,设置为calss_weight[i]*C, 是字典型变量 |
verbose | 启用详细输出(我一般没用过) |
random_state | 随机数状态(我也没用过) |
max_iter | 最大的迭代次数,默认为1000 |
返回值:
coef_ | 各个特征之前的系数 shape = [n_features] if n_classes == 2 else [n_classes, n_features] |
intercept_ | 截距 shape = [1] if n_classes == 2 else [n_classes] |
3、方法
4、应用:
用一个两个特征的x,进行实例说明:
1、进行训练
svm1 = sklearn.svm.LinearSVC(C=1.0,loss='squared_hinge')
svm1.fit(X,Y.ravel())
svm1.score(X,Y) #返回的是最后的平均“得分”,反映了预测的好与坏
2、获得参数
p1,p2 = svm1.coef_[0]#个参数的权重系数
b = svm1.intercept_[0] #截距值
print(p1,p2,b)
其中计算得公式为:p1 * x1 + p2 * x2 + b = 0
3、画图
plt.scatter(X1,X2,c = Y)
plt.plot(X1,-p1/p2*X1 - b/p2)
plt.show()
这是c = 1的情况,给数据的误差权重比较小(c = 1),所以那个偏离数据的点没有很好的拟合
我么给c一个比较打的值,来增加数据的误差权重,试一下c = 100,结果如下,该分类就吧所有的数据点都进行了分离
该项目可以在我的github下载,点这里