决策树

import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import load_iris
from sklearn.tree import DecisionTreeClassifier, plot_tree
#Parameters
n_classes = 3
plot_colors = 'rgb'
plot_step = 0.02

#load data
iris = load_iris()

for pairidx, pair in enumerate([[0,1],[0,2],[0,3],
                                [1,2],[1,3],[2,3]]):
    #只用其中的两个特征 把所有的可能性放在一个列表里随机往外拿
    x=iris.data[:,pair]
    # 数据分类
    y=iris.target
#     print(pairidx)
#     print(pair)
# print(y,x,len(x))
    #train 训练模型
    clf=DecisionTreeClassifier().fit(x,y)
    # 画出决策边界 一共几幅图每一幅图代表谁
    plt.subplot(2,3,pairidx+1)

    # x有两个特征为了更好地画图取边界方法
    # 第一个特征
    x_min,x_max=x[:,0].min()-1,x[:,0].max()+1
    # 第二个特征
    y_min,y_max=x[:,1].min()-1,x[:,1].max()+1
    # 画图
    xx,yy=np.meshgrid(np.arange(x_min,x_max,plot_step),
                      np.arange(y_min,y_max,plot_step))
    # 设置每幅图之间的展示距离
    plt.tight_layout(h_pad=0.5,w_pad=0.5,pad=2.5)

    # 模型预测  np.c_是两个矩阵列的形式合并
    # np.r_是两个矩阵行的形式合并
    Z=clf.predict(np.c_[xx.ravel(),yy.ravel()])
    # 重新换为原来的格式
    Z=Z.reshape(xx.shape)
    # 三维作图 contour带有等高线 contourf不带有等高线
    # 背景色的描述
    cs=plt.contourf(xx,yy,Z,cmap=plt.cm.rainbow)
#   x,y 轴标签记录
    plt.xlabel(iris.feature_names[pair[0]])
    plt.ylabel(iris.feature_names[pair[1]])
    # plot 训练点
    for i,color in zip(range(n_classes),plot_colors):
        # print(i,color)
        # 把同一类的值全部拿出来
        idx=np.where(y==i)
        # print(idx)
        # print(iris.target_names[i])
        # 散点图 特征数据，数据颜色，背景颜色，三种数据的标记，边框大小，字迹大小
        plt.scatter(x[idx,0],x[idx,1],c=color,label=iris.target_names[i],
                    cmap=plt.cm.rainbow, edgecolor='black', s=15)
#
# 标题居中
plt.suptitle('Decision surface of a decision tree')
plt.legend(loc='best',borderpad=0.01,handletextpad=0.01,labelspacing=0.1,frameon=True)
plt.axis('tight')
#
plt.figure()
clf=DecisionTreeClassifier().fit(iris.data,iris.target)
plot_tree(clf,filled=True)
plt.show()
#