基于MATLAB的可视化支持向量机

例子

load fisheriris
X = meas(:,1:2);
y = ones(size(X,1),1);
rng(1);
SVMModel = fitcsvm(X,y,'KernelScale','auto','Standardize',true,'OutlierFraction',0.05);
svInd = SVMModel.IsSupportVector;
h = 0.02; % Mesh grid step size
[X1,X2] = meshgrid(min(X(:,1)):h:max(X(:,1)),...
    min(X(:,2)):h:max(X(:,2)));
[~,score] = predict(SVMModel,[X1(:),X2(:)]);
scoreGrid = reshape(score,size(X1,1),size(X2,2));

figure
plot(X(:,1),X(:,2),'k.')
hold on
plot(X(svInd,1),X(svInd,2),'ro','MarkerSize',10)
contour(X1,X2,scoreGrid);
colorbar;
title('{\bf Iris Outlier Detection via One-Class SVM}')
xlabel('Sepal Length (cm)')
ylabel('Sepal Width (cm)')
legend('Observation','Support Vector')
hold off

分析

其实, 散点图很容易画, 大家都各有各的画法.主要问题是分界线的绘制, 因为得到分类器之后, 我不会得到它的分界面.通过观察, 例子中与画分界线的代码有关的部分如下:

h = 0.02; % Mesh grid step size
[X1,X2] = meshgrid(min(X(:,1)):h:max(X(:,1)),...
    min(X(:,2)):h:max(X(:,2)));
[~,score] = predict(SVMModel,[X1(:),X2(:)]);
scoreGrid = reshape(score,size(X1,1),size(X2,2));

figure
hold on
contour(X1,X2,scoreGrid);
hold off

其中, 涉及到的陌生函数有meshgrid, predict, reshape, contour

简单介绍一下:

• meshgrid是得到一个矩阵, 这里是得到一个二维矩阵, 如:[X1,X2] = meshgrid(140:0.02:200,30:0.02:130),就是得到一个二维网络, 函数返回两个矩阵X1和X2, 其中, X1代表这个网格的横坐标, X2代表纵坐标. X1和X2和起来代表的就是在140<X1<200和30<X2<130的面积里, 横坐标和纵坐标每隔0.02取一个点, 在这个面积里取得的所有点的集合.
• predict 这个函数上次已经使用过了, 它的第一个返回值是预测的类别标签, 这次用到第二个返回值的第一列数据, 可以简单理解为: 该测试点为所预测的标签(即第一个返回值)的可能性, 当该值为正数时, 判为正类, 为负数时, 判为负类.显而易见, 该值为0时, 即为分界线.
• reshape 对矩阵的进行重新排列, 改变行数和列数, 但改变前后的行数和列数的乘积不变.
• contour 绘制等高线, 最终就是通过这个函数进行画线.

原理

h = 0.02; % 设置取点的间隔
[X1,X2] = meshgrid(min(X(:,1)):h:max(X(:,1)),...
    min(X(:,2)):h:max(X(:,2)));% 得到所有取点的矩阵
[~,score] = predict(SVMModel,[X1(:),X2(:)]);
% 应用得到的分类器对网格矩阵中的所有点进行分类, 只要取点间隔够小, 相当于对整个平面上的所有点进行分类结果的计算.
scoreGrid = reshape(score,size(X1,1),size(X2,2));
% 由于分类得到的score的对应顺序对不上网格, 所以需要用reshape对score进行改变行数列数
figure
hold on
contour(X1,X2,scoreGrid);
% 画出线,这里不是分界线, 只是等高线
hold off

理解原理之后, 对某男女分类问题的分界线进行绘制:

[X1,X2] = meshgrid(140:0.02:200,30:0.02:130);
% 这是我的取点范围, 感觉效果不错, 也可以自己改改
[~,score] = predict(SVMModel_rbf,[X1(:),X2(:)]);
% 对网格进行分类结果的计算
scoreGrid = reshape(score(:,2),size(X1,1),size(X2,2));
% 改变score的行数和列数, 使之和网格[X1,X2]中的点一一对应
contour(X1,X2,scoreGrid,[0 0]);
% 绘制等高线, 最后一个参数[0 0] 就是只绘制出score值为0的点的等高线, 也就是分界线. 
legend('Female','Male','Support Vector','分界线');
hold off;

最终例图