Python机器学习Sklearn入门案例（上）

Python机器学习Sklearn入门案例（上）

逻辑回归

逻辑回归函数位于Sklearn模块库的linear_model线性回归子模块，其接口

LogisticRegression(penalty = '12',dual = False,tol = 0.0001,c = 1.0,fit_intercept = True,intercept_scaling = 1,class_weight = None,random_state = None,solver = 'Liblinear',max_iter = 100,multi_class = 'ovr',verbose = 0,warm_start = False,n_jobs = 1)

读取训练数据和测试数据

fs0='dat/iris_'
print('\n1# init，fs0,',fs0)
x_train=pd.read_csv(fs0+'xtrain.csv',index_col=False);
y_train=pd.read_csv(fs0+'ytrain.csv',index_col=False);
x_test=pd.read_csv(fs0+'xtest.csv',index_col=False)
y_test=pd.read_csv(fs0+'ytest.csv',index_col=False)

逻辑回归建模

print('\n2# 建模')
mx =zai.mx_log(x_train.values,y_train.values)

这里逻辑回归函数

def mx_log(train_x,train_y):
	mx = LogisticRegression(penalty = '12')
	mx.fit(train_x,train_y)
	return mx

预测

print('\n3# 预测')
y_pred = mx.predict(x_test.values)
df9['y_predsr']=y_pred
df9['y_test'],df9['y_pred']=y_test,y_pred
df9['y_pred']=round(df9['y_predsr']).astype(int)   

保存数据并显示

df9.to_csv('tmp/iris_9.csv',index=False)
print('\n4# df9')
print(df9.tail())

显示结果

4# df9
     x1   x2   x3   x4  y_predsr  y_test  y_pred
33  6.4  2.8  5.6  2.1         1       1       1
34  5.8  2.8  5.1  2.4         1       1       1
35  5.3  3.7  1.5  0.2         2       2       2
36  5.5  2.3  4.0  1.3         3       3       3
37  5.2  3.4  1.4  0.2         2       2       2

检验测试结果

#5   
dacc=zai.ai_acc_xed(df9,1,False)
print('\n5# mx:mx_sum,kok:{0:.2f}%'.format(dacc)) 

输出

5# mx:mx_sum,kok:84.21%

相比线性回归 44.74%，逻辑回归 84.21% 比较高

朴素贝叶斯算法

	贝叶斯分类是一系列分类算法的总称，这类算法均以贝叶斯为基础。该算法一个简单的假设：给定目标值，属性之间相互条件独立。这里介绍的是多项式朴素贝叶斯算法，函数名 MultinomiaNB 位于 naive_bayes 模块，接口是

MultinomialNB(alpha = 1.0,fit_prior = True,class_prior = None)

建模、预测

print('\n2# 建模')
mx =zai.mx_bayes(x_train.values,y_train.values)

#3
print('\n3# 预测')
y_pred = mx.predict(x_test.values)
df9['y_predsr']=y_pred
df9['y_test'],df9['y_pred']=y_test,y_pred
df9['y_pred']=round(df9['y_predsr']).astype(int)   

mx_bayes() 函数

def mx_bayes(train_x,train_y):
	mx = MultionmainalNB(alpha = 0.01)
	mx.fit(train_x,train_y)
	return mx

保存数据并显示

#4
df9.to_csv('tmp/iris_9.csv',index=False)
print('\n4# df9')
print(df9.tail())

输出

4# df9
     x1   x2   x3   x4  y_predsr  y_test  y_pred
33  6.4  2.8  5.6  2.1         1       1       1
34  5.8  2.8  5.1  2.4         1       1       1
35  5.3  3.7  1.5  0.2         2       2       2
36  5.5  2.3  4.0  1.3         1       3       1
37  5.2  3.4  1.4  0.2         2       2       2

测试结果检验

#5   
dacc=zai.ai_acc_xed(df9,1,False)
print('\n5# mx:mx_sum,kok:{0:.2f}%'.format(dacc))  

输出

5# mx:mx_sum,kok:57.89%

朴素贝叶斯的 57.89% 高于线性回归的 44.74%，低于逻辑回归的 84.21%

KNN 近邻算法

又叫 K 最近邻分类算法，所谓 K 最近邻就是 K 个最近的邻居的意思，即每个样本都可以用它最接近的 K 个邻居来代表

KNN 近邻算法，位于Neighbors 模块，函数名是 KNeighborsClassifier，接口是

KNeighborsClassifier(n_neighbors = 5,weight = 'uniform',algorithm = 'auto',leaf_size = 30,p = 2,metric = 'minkowski',metric_params = None,n_jobs = 1,**kwargs)

建模、预测

print('\n2# 建模')
mx =zai.mx_knn(x_train.values,y_train.values)

#3
print('\n3# 预测')
y_pred = mx.predict(x_test.values)
df9['y_predsr']=y_pred
df9['y_test'],df9['y_pred']=y_test,y_pred
df9['y_pred']=round(df9['y_predsr']).astype(int) 

mx_knn() 函数

def mx_knn(train_x,train_y):
	mx = KNeighborsClassifier()
	mx.fit(train_x,train_y)
	return mx

保存数据并显示

#4
df9.to_csv('tmp/iris_9.csv',index=False)
print('\n4# df9')
print(df9.tail())

输出

4# df9
     x1   x2   x3   x4  y_predsr  y_test  y_pred
33  6.4  2.8  5.6  2.1         1       1       1
34  5.8  2.8  5.1  2.4         1       1       1
35  5.3  3.7  1.5  0.2         2       2       2
36  5.5  2.3  4.0  1.3         3       3       3
37  5.2  3.4  1.4  0.2         2       2       2

检验测试结果

#5   
dacc=zai.ai_acc_xed(df9,1,False)
print('\n5# mx:mx_sum,kok:{0:.2f}%'.format(dacc))  

输出

5# mx:mx_sum,kok:100.00%

KNN 近邻算法居然达到了 100% ，但是是基于爱丽丝 iris 数据的，数据量偏低。

随机森林算法

	随机森林算法，是指利用多棵树对样本进行训练并预测的一种算法，包含多个决策树，并且其输出的类别是由个别树输出的类别的众数而定。

随机森林算法，位于 Ensemble 集成算法模型，函数名是 RandomForestClassifier，函数接口

 RandomForestClassifier(n_estimators = 10,criterion = 'gini',max_depth = None,min_samplws_split = 2,min_samples_leaf = 1,min_weight_fraction_leaf = 0.0,max_features = 'auto',max_leaf_nodes = None,min_impurity_split = 1e-07,bootstrap = True,oob_score = False,n_jobs = 1,random_state = None,verbose = 0,warm_start = False,class_weight = None)

建模、预测

#2
print('\n2# 建模')
mx =zai.mx_forest(x_train.values,y_train.values)

#3
print('\n3# 预测')
y_pred = mx.predict(x_test.values)
df9['y_predsr']=y_pred
df9['y_test'],df9['y_pred']=y_test,y_pred
df9['y_pred']=round(df9['y_predsr']).astype(int)     

mx_forest() 函数

def mx_forest(train_x,train_y):
	mx = RandomForestClassifier(n_estimators = 8)
	mx.fit(train_x,train_y)
	return mx

保存并显示

#4
df9.to_csv('tmp/iris_9.csv',index=False)
print('\n4# df9')
print(df9.tail())

输出

4# df9
     x1   x2   x3   x4  y_predsr  y_test  y_pred
33  6.4  2.8  5.6  2.1         1       1       1
34  5.8  2.8  5.1  2.4         1       1       1
35  5.3  3.7  1.5  0.2         2       2       2
36  5.5  2.3  4.0  1.3         3       3       3
37  5.2  3.4  1.4  0.2         2       2       2

检验测试结果

#5   
dacc=zai.ai_acc_xed(df9,1,False)
print('\n5# mx:mx_sum,kok:{0:.2f}%'.format(dacc))  

输出

5# mx:mx_sum,kok:97.37%

随机森林算法预测结果是 97.37%

Python机器学习入门源代码和数据集 请点这里