【MATLAB】机器学习：决策树算法实验

实验内容

1 使用决策数实现西瓜数据集2.0的分类(随机十次的结果取平均)；
2 使用决策数实现鸢尾花的分类(随机十次的结果取平均) ；
3 画出十次实验的精度变化曲线图。

实验代码

%%******************************问题一****************************
%*****************************************************************
clear;clc;
%% 导入西瓜数据
watermelon=[
 1,1,1,1,1,1,1;
 2,1,2,1,1,1,1;
 2,1,1,1,1,1,1;
 1,1,2,1,1,1,1;
 3,1,1,1,1,1,1;
 1,2,1,1,2,2,1;
 2,2,1,2,2,2,1;
 2,2,1,1,2,1,1;
 2,2,2,2,2,1,2;
 1,3,3,1,3,2,2;
 3,3,3,3,3,1,2;
 3,1,1,3,3,2,2;
 1,2,1,2,1,1,2;
 3,1,2,2,1,1,2;
 2,2,1,1,2,2,2;
 3,1,1,3,3,1,2;
 1,1,2,2,2,1,2;
 ];
pattern=watermelon(:,1:6);
target=watermelon(:,7);
%% 留出法划分训练集和测试集
for i=1:10
   num=randperm(size(watermelon,1));
   train_patterns=pattern(num(1:round(length(num)*2/3)),:);
   test_patterns=pattern(num(round(length(num)*2/3)+1:end),:);
   train_targets=target(num(1:round(length(num)*2/3)),:);
   test_targets_true=target(num(round(length(num)*2/3)+1:end),:);
   %决策树分类计算精度
    [test_targets_predict]= C4_5(train_patterns', train_targets', test_patterns', 5, 10);
    test_targets_predict=test_targets_predict';
    equal=(test_targets_predict==test_targets_true);
    acc(1,i)=sum(equal)/size(equal,1);
end
%% 绘制精度曲线
plot([1:10],acc);
hold on;
axis([1,10,0,1]);
xlabel("次数");
ylabel("精度");
legend("西瓜数据的十次实验的精度变化曲线图");


%%********************************问题二************************************
%***************************************************************************
clear;clc;
%% 导入鸢尾花数据
iris = readtable('iris.data','Filetype','text','ReadVariableNames',false);
pattern=iris{:,1:4};
target=iris{:,5};
for i=1:size(pattern,1)
    if strcmp(target(i,1),'Iris-setosa')
        label(i,1)=1;
    elseif strcmp(target(i,1),'Iris-versicolor')
        label(i,1)=2;
    else
        label(i,1)=3;
    end;
end
%% 留出法划分训练集和测试集
for i=1:10
    num=randperm(size(pattern,1));
    train_patterns=pattern(num(1:round(length(num)*2/3)),:);
    train_targets=label(num(1:round(length(num)*2/3)),:);
    test_patterns=pattern(num(round(length(num)*2/3)+1:end),:);
    test_targets_true=label(num(round(length(num)*2/3)+1:end),:);
    %决策树分类计算精度
    [test_targets_predict]= C4_5(train_patterns', train_targets', test_patterns', 5, 10);
    test_targets_predict=test_targets_predict';
    equal=(test_targets_predict==test_targets_true);
    acc(1,i)=sum(equal)/size(equal,1);
end


%%**********************************问题三*********************************
%**************************************************************************
%% 绘制精度曲线
plot([1:10],acc);
hold on;
axis([1,10,0,1]);
xlabel("次数");
ylabel("精度");
legend("鸢尾花数据的十次实验的精度变化曲线图");

C4_5函数调用文件见如下链接：
决策树源码文件

实验结果

实验心得

通过本次“决策树算法”实验，首先，我对决策树的方法理解更加深刻。其次，能够理解决策树算法实验中c4_5函数的代码。最后，能通过调用决策树算法的c4_5函数实现对西瓜数据和鸢尾花数据的分类，结果发现：决策树算法对鸢尾花的预测精度在90%上下波动，而西瓜的预测精度则在50%左右波动。