机器学习《决策树优化》

#  进入正题
import pandas as pd
import sklearn.metrics as metircs

#读取共享单车数据
data = pd.read_csv('007-day.csv',encoding='utf-8')

#删除无用数据  axis=1 按列删除  =0是按行删除  inplace=True改变原数据  默认FALSE
data.drop(['dteday','instant','casual','registered'],axis=1,inplace=True)

data.as_matrix() #将类型转成numpy  data.values也可以

from sklearn.model_selection import train_test_split
#按行将数据进行三七分割
trainSet,testSet = train_test_split(data,test_size=0.3)

#按列将特征和标签进行分割 (最后一列是标签)
train_x,train_y = trainSet.iloc[:,:-1].values,trainSet.iloc[:,-1].values
test_x,test_y = testSet.iloc[:,:-1].values,testSet.iloc[:,-1].values


# 创建模型  决策树
from sklearn.tree import DecisionTreeRegressor
dtReg = DecisionTreeRegressor() #初始化

#将 train_x  train_y训练集   进行训练
dtReg.fit(train_x,train_y) 

#将test_x预测集 进行预测
y_pre = dtReg.predict(test_x)
print('无优化mse:{}'.format(metircs.mean_absolute_error(y_pred=y_pre,y_true=test_y)))


#决策树优化
from sklearn.ensemble import AdaBoostRegressor

#初始化 加上决策树深度
dtReg = DecisionTreeRegressor(max_depth=20) 

#参数是弱回归器  决策树 数量
adaboost = AdaBoostRegressor(dtReg,n_estimators=600)  #决策树数量600

adaboost.fit(train_x,train_y)  #训练
y_pre = adaboost.predict(test_x)  # 测试

print('优化后mse:{}'.format(metircs.mean_absolute_error(y_pred=y_pre,y_true=test_y)))
print('解释方差分R2:{}'.format(metircs.r2_score(y_pred = y_pre,y_true=test_y)))
print('查看模型得分:{}'.format(adaboost.score(test_x,test_y))) #(参数是测试集或训练集 !必须一致)

#  保存模型
from sklearn.externals import joblib
path = '地址加文件名.txt'
joblib.dump(模型,path)

#  加载模型
linear_re_loaded = joblib.load(path)
y_pre_train = linear_re_loaded.predict(train_x)
print(y_pre_train)

往期推荐

存 读csv

python中对list去重的方法

flask框架之分页

django框架之分页

机器学习之绘图

爬虫学习之selenium(一)