sklearn.cross_validation模块_sk learn中的 cross-validation 分类器-CSDN博客

 
 
  
  
   
   sklearn.cross_validation模块的作用顾名思义就是做cross validation的。

   
   
cross validation大概的意思是：对于原始数据我们要将其一部分分为train data，一部分分为test data。train data用于训练，test data用于测试准确率。在test data上测试的结果叫做validation error。将一个算法作用于一个原始数据，我们不可能只做出随机的划分一次train和test data，然后得到一个validation error，就作为衡量这个算法好坏的标准。因为这样存在偶然性。我们必须好多次的随机的划分train data和test data，分别在其上面算出各自的validation error。这样就有一组validation error，根据这一组validation error，就可以较好的准确的衡量算法的好坏。cross validation是在数据量有限的情况下的非常好的一个evaluate performance的方法。而对原始数据划分出train data和test data的方法有很多种，这也就造成了cross validation的方法有很多种。

sklearn中的cross validation模块，最主要的函数是如下函数：
sklearn.cross_validation.cross_val_score：
     
      调用形式是scores = cross_validation.cross_val_score(clf, raw data, raw target, cv=5, score_func=None) 参数解释： clf是不同的分类器，可以是任何的分类器。比如支持向量机分类器。clf = svm.SVC(kernel='linear', C=1) cv参数就是代表不同的cross validation的方法了。如果cv是一个int数字的话，并且如果提供了raw target参数，那么就代表使用StratifiedKFold分类方式，如果没有提供raw target参数，那么就代表使用KFold分类方式。 
 函数的返回值就是对于每次不同的的划分raw data时，在test data上得到的分类的准确率。至于准确率的算法可以通过 score_func参数指定，如果不指定的话，是用clf默认自带的准确率算法。 sklearn.cross_validation.train_test_split： 
 功能：从样本中随机的按比例选取train data和test data。 
 调用形式为： X_train, X_test, y_train, y_test = cross_validation.train_test_split(train_data, train_target, test_size=0.4, random_state=0) test_size是样本占比。如果是整数的话就是样本的数量。 random_state是随机数的种子。不同的种子会造成不同的随机采样结果。相同的种子采样结果相同。 除了KFold以及StratifiedKFold这两种对raw data进行划分的方法之外，还有以下划分方法： cross_validation.ShuffleSplit cross_validation.Bootstrap cross_validation.LeaveOneLabelOut cross_validation.LeaveOneOut cross_validation.LeavePLabelOut cross_validation.LeavePOut cross_validation.StratifiedShuffleSplit 



   
   

  
  

  
  Demo1.py

  
  import numpy as np
from sklearn import datasets
from sklearn.cross_validation import train_test_split#分割数据的模块
from sklearn.neighbors import KNeighborsClassifier
from sklearn.cross_validation import cross_val_score #K折交叉验证模块

# 加载iris数据集
iris = datasets.load_iris()
# 读取特征
X = iris.data
# 读取分类标签
y = iris.target
# 定义分类器
knn = KNeighborsClassifier(n_neighbors = 5)
# 进行交叉验证数据评估, 数据分为5部分, 每次用一部分作为测试集
scores = cross_val_score(knn, X, y, cv = 5, scoring = 'accuracy')
# 输出5次交叉验证的准确率
print (scores)
  
  
  
  结果：
  
  [ 0.96666667  1.          0.93333333  0.96666667  1.        ]
  
  
  
  Demo2.py
  
  import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.cross_validation import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.cross_validation import cross_val_score 

# 确定knn中k的取值

# 加载iris数据集
iris = datasets.load_iris()
# 读取特征
X = iris.data
# 读取分类标签
y = iris.target
# 定义knn中k的取值, 0-10
k_range = range(1, 30)
# 保存k对应的准确率
k_scores = []
# 计算每个k取值对应的准确率
for k in k_range:
    # 获得knn分类器
    knn = KNeighborsClassifier(n_neighbors = k)
    # 对数据进行交叉验证求准确率
    scores = cross_val_score(knn, X, y, cv = 10, scoring = 'accuracy')
    # 保存交叉验证结果的准确率均值
    k_scores.append(scores.mean())

# 绘制k取不同值时的准确率变化图像
plt.plot(k_range, k_scores)
plt.xlabel('K Value in KNN')
plt.ylabel('Cross-Validation Mean Accuracy')
plt.show()
  
  
  
  结果：
  
  
   
   
   
   

   
   
    
    Paste_Image.png
   
   
  
  
 
 


作者：Ledestin
链接：http://www.jianshu.com/p/6beffa4b80be
來源：简书
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。