【机器学习】iris莺尾花项目-机器学习的hello world

项目是根据魏贞原先生的《机器学习python实践》学习的

主要代码来自书里面，但是我自己由于目前对于python的机器学习部分用法不是很了解，所以查阅了很多资料。

对于代码的理解和一些函数的用法以注释的形式加入到了下面

# 导入类库
from pandas import read_csv
from pandas.plotting import scatter_matrix
from matplotlib import pyplot
from sklearn.model_selection import train_test_split
from sklearn.model_selection import KFold
from sklearn.model_selection import cross_val_score
from sklearn.metrics import classification_report
from sklearn.metrics import confusion_matrix
from sklearn.metrics import accuracy_score
from sklearn.linear_model import LogisticRegression
from sklearn.tree import DecisionTreeClassifier
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
from sklearn.neighbors import KNeighborsClassifier
from sklearn.naive_bayes import GaussianNB
from sklearn.svm import SVC

import warnings
warnings.filterwarnings("ignore")
# 导入数据
filename = 'C:/Users/半夏倾尘/Desktop/MachineLearning-master/chapter03/iris.data.csv'
names = ['separ-length', 'separ-width', 'petal-length', 'petal-width', 'class']
dataset = read_csv(filename, names=names)

#显示数据维度
print('数据维度: 行 %d，列 %d' % dataset.shape)

#-----------------------------------------------------
# import numpy as np
# x = np.array([[1,2,5],[2,3,5],[3,4,5],[2,3,6]])
# #输出数组的行和列数
# print x.shape  #结果： (4, 3)
# #只输出行数
# print x.shape[0] #结果： 4
# #只输出列数
# print x.shape[1] #结果： 3
#-----------------------------------------------------

# 查看数据的前10行
print(dataset.head(10))

# 统计描述数据信息
print(dataset.describe())

# 分类分布情况
print(dataset.groupby('separ-length').size())

# 箱线图
dataset.plot(kind='box', subplots=True, layout=(2,2), sharex=False, sharey=False)
pyplot.show()

# 直方图
dataset.hist()
pyplot.show()

# 散点矩阵图
scatter_matrix(dataset)
pyplot.show()

# 分离数据集
array = dataset.values
X = array[:, 0:4]
Y = array[:, 4]
validation_size = 0.2
seed = 7
X_train, X_validation, Y_train, Y_validation = \
    train_test_split(X, Y, test_size=validation_size, random_state=seed)

#-----------------------------------------------------
#在一行语句需要拆成多行书写时,行尾处的\符号表示后续行延续本行语句
# train_data：被划分的样本特征集
# train_target：被划分的样本标签
# test_size：如果是浮点数，在0-1之间，表示样本占比；如果是整数的话就是样本的数量
# random_state：是随机数的种子。
#-----------------------------------------------------

# # 算法审查
models = {}
models['LR'] = LogisticRegression()
models['LDA'] = LinearDiscriminantAnalysis()
models['KNN'] = KNeighborsClassifier()
models['CART'] = DecisionTreeClassifier()
models['NB'] = GaussianNB()
models['SVM'] = SVC()

#-----------------------------------------------------
# 小括号():代表tuple元祖数据类型，元祖是一种不可变序列
# 中括号[]：代表list列表数据类型，列表是一种可变序列
# 花括号{}：代表dict字典数据类型，字典是Python中唯一内建的映射类型
#-----------------------------------------------------

# 评估算法
results = []
for key in models:
    kfold = KFold(n_splits=10, random_state=seed)
    cv_results = cross_val_score(models[key], X_train, Y_train, cv=kfold, scoring='accuracy')
    results.append(cv_results)
    print('%s: %f (%f)' %(key, cv_results.mean(), cv_results.std()))
#几折交叉运算为多次运算，返回每一次计算的结果，mean为所有结果的平均值，std为标准差

#-----------------------------------------------------
# KFold（n_split, shuffle, random_state）
# 参数：n_split:要划分的折数
# 　　　shuffle: 每次都进行shuffle，测试集中折数的总和就是训练集的个数
# 		默认False，即拆分前不对数据进行混洗
#         ①若为Falses时，其效果等同于random_state等于整数，每次划分的结果相同
#         ②若为True时，每次划分的结果都不一样，表示经过洗牌，随机取样的
#         random_state控制随机数，只要random_state值一样，无论shuffle如何结果都一样
#       random_state:随机状态
# cross_val_score
# estimator:估计方法对象(分类器)
# X：数据特征(Features)
# y：数据标签(Labels)
# soring：调用方法(包括accuracy和mean_squared_error等等)
# cv：几折交叉验证十折交叉验证用来测试算法准确性。是常用的测试方法。
#	  将数据集分成十分，轮流将其中9份作为训练数据，1份作为测试数据，进行试验
#-----------------------------------------------------

# # 箱线图比较算法
fig = pyplot.figure()
fig.suptitle('Algorithm Comparison')
ax = fig.add_subplot(111)
pyplot.boxplot(results)
ax.set_xticklabels(models.keys())
pyplot.show()

# #使用评估数据集评估算法
svm = SVC()
svm.fit(X=X_train, y=Y_train)
predictions = svm.predict(X_validation)
print(accuracy_score(Y_validation, predictions))
print(confusion_matrix(Y_validation, predictions))
print(classification_report(Y_validation, predictions))
#confusion_matrix 混淆矩阵 除了主对角线(左上到右下)的，其余都是错误的