sklearn训练/测试数据集划分

最新推荐文章于 2024-05-13 17:06:59 发布
最新推荐文章于 2024-05-13 17:06:59 发布
阅读量904 收藏 2
点赞数
分类专栏： 机器学习 Python

 

原理介绍

K折交叉验证：

KFold，GroupKFold，StratifiedKFold，

留一法：

LeaveOneGroupOut，LeavePGroupsOut，LeaveOneOut，LeavePOut，

随机划分法：

ShuffleSplit，GroupShuffleSplit，StratifiedShuffleSplit，

 

 

代码实现

流程：

实例化分类器 -> 迭代器迭代组[.split()]

KFold(n_splits=2)

1

2

3

4

5

6

7

8

9

10

11

12

13

#KFold

import numpy as np

from sklearn.model_selection import KFold

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,2,3,4,5,6])

kf=KFold(n_splits=2)    # 定义分成几个组

# kf.get_n_splits(X)    # 查询分成几个组

print(kf)

for train_index,test_index in kf.split(X):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

 

 GroupKFold(n_splits=2)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

# GroupKFold，不是很懂这个划分方法

import numpy as np

from sklearn.model_selection import GroupKFold

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,2,3,4,5,6])

groups=np.array([1,2,3,4,5,6])

group_kfold=GroupKFold(n_splits=2)

group_kfold.get_n_splits(X,y,groups)

print(group_kfold)

for train_index,test_index in group_kfold.split(X,y,groups):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

 

#GroupKFold(n_splits=2)

#Train Index: [0 2 4] ,Test Index: [1 3 5]

#Train Index: [1 3 5] ,Test Index: [0 2 4]

 

StratifiedKFold(n_splits=3)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

# stratifiedKFold：保证训练集中每一类的比例是相同的（尽量）

import numpy as np

from sklearn.model_selection import StratifiedKFold

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,1,1,2,2,2])

skf=StratifiedKFold(n_splits=3)

skf.get_n_splits(X,y)

print(skf)

for train_index,test_index in skf.split(X,y):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

 

#StratifiedKFold(n_splits=3, random_state=None, shuffle=False)

#Train Index: [1 2 4 5] ,Test Index: [0 3]

#Train Index: [0 2 3 5] ,Test Index: [1 4]

 

LeaveOneOut()

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

# leaveOneOut：测试集就留下一个

import numpy as np

from sklearn.model_selection import LeaveOneOut

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,2,3,4,5,6])

loo=LeaveOneOut()

loo.get_n_splits(X)

print(loo)

for train_index,test_index in loo.split(X,y):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

#LeaveOneOut()

#Train Index: [1 2 3 4 5] ,Test Index: [0]

#Train Index: [0 2 3 4 5] ,Test Index: [1]

#Train Index: [0 1 3 4 5] ,Test Index: [2]

#Train Index: [0 1 2 4 5] ,Test Index: [3]

#Train Index: [0 1 2 3 5] ,Test Index: [4]

#Train Index: [0 1 2 3 4] ,Test Index: [5]

 

LeavePOut(p=3)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

LeavePOut：测试集留下P个

import numpy as np

from sklearn.model_selection import LeavePOut

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,2,3,4,5,6])

lpo=LeavePOut(p=3)

lpo.get_n_splits(X)

print(lpo)

for train_index,test_index in lpo.split(X,y):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

 

#LeavePOut(p=3)

#Train Index: [3 4 5] ,Test Index: [0 1 2]

#Train Index: [2 4 5] ,Test Index: [0 1 3]

#Train Index: [2 3 5] ,Test Index: [0 1 4]

#Train Index: [2 3 4] ,Test Index: [0 1 5]

#Train Index: [1 4 5] ,Test Index: [0 2 3]

#Train Index: [1 3 5] ,Test Index: [0 2 4]

#Train Index: [1 3 4] ,Test Index: [0 2 5]

#Train Index: [1 2 5] ,Test Index: [0 3 4]

#Train Index: [1 2 4] ,Test Index: [0 3 5]

#Train Index: [1 2 3] ,Test Index: [0 4 5]

#Train Index: [0 4 5] ,Test Index: [1 2 3]

#Train Index: [0 3 5] ,Test Index: [1 2 4]

#Train Index: [0 3 4] ,Test Index: [1 2 5]

#Train Index: [0 2 5] ,Test Index: [1 3 4]

#Train Index: [0 2 4] ,Test Index: [1 3 5]

#Train Index: [0 2 3] ,Test Index: [1 4 5]

#Train Index: [0 1 5] ,Test Index: [2 3 4]

#Train Index: [0 1 4] ,Test Index: [2 3 5]

#Train Index: [0 1 3] ,Test Index: [2 4 5]

#Train Index: [0 1 2] ,Test Index: [3 4 5]

 

ShuffleSplit(n_splits=3,test_size=.25,random_state=0)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

# ShuffleSplit 把数据集打乱顺序，然后划分测试集和训练集，训练集额和测试集的比例随机选定，

# 训练集和测试集的比例的和可以小于1 

import numpy as np

from sklearn.model_selection import ShuffleSplit

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,2,3,4,5,6])

rs=ShuffleSplit(n_splits=3,test_size=.25,random_state=0)

rs.get_n_splits(X)

print(rs)

for train_index,test_index in rs.split(X,y):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

print("==============================")

rs=ShuffleSplit(n_splits=3,train_size=.5,test_size=.25,random_state=0)

rs.get_n_splits(X)

print(rs)

for train_index,test_index in rs.split(X,y):

    print("Train Index:",train_index,",Test Index:",test_index)

 

#ShuffleSplit(n_splits=3, random_state=0, test_size=0.25, train_size=None)

#Train Index: [1 3 0 4] ,Test Index: [5 2]

#Train Index: [4 0 2 5] ,Test Index: [1 3]

#Train Index: [1 2 4 0] ,Test Index: [3 5]

#==============================

#ShuffleSplit(n_splits=3, random_state=0, test_size=0.25, train_size=0.5)

#Train Index: [1 3 0] ,Test Index: [5 2]

#Train Index: [4 0 2] ,Test Index: [1 3]

#Train Index: [1 2 4] ,Test Index: [3 5]

 

 StratifiedShuffleSplit(n_splits=3,test_size=.5,random_state=0)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

# StratifiedShuffleSplitShuffleSplit 把数据集打乱顺序，然后划分测试集和训练集，

# 训练集额和测试集的比例随机选定，训练集和测试集的比例的和可以小于1,但是还要保证训练集中各类所占的比例是一样的

 

import numpy as np

from sklearn.model_selection import StratifiedShuffleSplit

X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])

y=np.array([1,2,1,2,1,2])

sss=StratifiedShuffleSplit(n_splits=3,test_size=.5,random_state=0)

sss.get_n_splits(X,y)

print(sss)

for train_index,test_index in sss.split(X,y):

    print("Train Index:",train_index,",Test Index:",test_index)

    X_train,X_test=X[train_index],X[test_index]

    y_train,y_test=y[train_index],y[test_index]

    #print(X_train,X_test,y_train,y_test)

 

#StratifiedShuffleSplit(n_splits=3, random_state=0, test_size=0.5,train_size=None)

#Train Index: [5 4 1] ,Test Index: [3 2 0]

#Train Index: [5 2 3] ,Test Index: [0 4 1]

#Train Index: [5 0 4] ,Test Index: [3 1 2]

转自：https://www.cnblogs.com/hellcat/p/7045585.html 

墨小青的程序园
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
交叉验证之KFold和StratifiedKFold的使用（附案例实战）
m0_64336780的博客
04-25 1万+
交叉验证是在机器学习建立模型和验证模型参数时常用的办法。交叉验证，顾名思义，就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集，某次训练集中的某样本在下次可能成为测试集中的样本，即所谓“交叉”。那么什么时候才需要交叉验证呢？交叉验证用在数据不是很充足的时候。通常情况下，如果数据样本量小于一万条，我们就会采用交叉验证来训练优化选择模型。
sklearn中测试及和训练集分离及选取
qq_22667507的博客
04-23 280
sklearn中的train_test_split： from sklearn.model_selection import train_test_split data_train,data_test,label_train,label_test = train_test_split(x,y,test_size=0.3,random_state=123) test = KNeighborsClassifier(n_neighbors=4) test.fit(data_train,label_train)
sklearn 标准化训练数据
一花一世界 一叶一菩提
05-02 755
参考网址：http://www.cnblogs.com/chaosimple/p/4153167.html
python训练数据集_Python——sklearn提供的自带的数据集
weixin_39737757的博客
11-21 411
sklearn提供的自带的数据集sklearn 的数据集有好多个种自带的小数据集（packaged dataset）：sklearn.datasets.load_可在线下载的数据集（Downloaded Dataset）：sklearn.datasets.fetch_计算机生成的数据集（Generated Dataset）：sklearn.datasets.make_svmlight/libsvm...
零基础入门金融风控之贷款违约预测—建模与调参
sosososoon的博客
09-24 1594
基本模型 逻辑回归 逻辑回归是一个假设样本服从伯努利分布 (f(x∣p)=px(1−p)n−xf(x|p) = p^x(1-p)^{n-x}f(x∣p)=px(1−p)n−x)，利用极大似然估计和梯度下降求解的二分类模型。 逻辑回归本质上是线性回归，只是在特征到结果的映射中加入了一个 sigmoid 函数，即先把特征线性求和，然后使用非线性的函数将连续值映射到 0 与 1 之间。   优点 训练速度较快，分类的时候，计算量仅仅只和特征的数目相关 简单易理解，模型的可解释性非常好，从特征的权重可
sklearn的模型选择和评估之交叉验证
koukehui0292的博客
10-15 1914
import numpy as np 交叉验证：评估学习器的表现 划分数据为训练集和测试集 X, y = np.arange(10).reshape((5, 2)), range(5) print(X) print(y) [[0 1] [2 3] [4 5] [6 7] [8 9]] range(0, 5) from sklearn.model_selection import tr...
用pandas划分数据集实现训练集和测试集
09-16
在Python中，pandas库通常用于数据处理，而sklearn库则提供了划分训练集和测试集的功能。本文将详细介绍如何利用pandas和sklearn的model_selection模块来实现这一过程。 首先，我们引入pandas库读取数据，如在示例...
python 划分数据集为训练集和测试集的方法
09-19
训练集用于训练模型，而测试集则用来验证模型的泛化能力。Python中，我们经常使用`sklearn`库来处理这个问题。本文将详细介绍如何使用`sklearn`中的`train_test_split`函数以及自定义函数来划分数据集。 首先，我们...
K折交叉验证的使用之KFold和split函数
weixin_42621901的博客
08-03 1万+
使用方法： # 导入方式 from sklearn.model_selection import KFold KFold(n_split, random_state, shuffle) 参数： n_split：需要划分多少折数 shuffle：是否进行数据打乱 random_state：随机数 skf = KFold(n_splits=10, random_state=233, shuffle=True) KFold()方法中的split()： split(a,b)：方法会根据折数对a和b进行划分。
数据科学：使用Optuna进行特征选择
最新发布
csdn1561168266的博客
05-13 1165
大家好，特征选择是机器学习流程中的关键步骤，在实践中通常有大量的变量可用作模型的预测变量，但其中只有少数与目标相关。特征选择包括找到这些特征的子集，主要用于改善泛化能力、助力推断预测、提高训练效率。有许多技术可用于执行特征选择，每种技术的复杂性不同。本文将介绍一种使用强大的开源优化工具Optuna来执行特征选择任务的创新方法，主要思想是通过有效地测试不同的特征组合（例如，不是逐个尝试它们）来处理各种任务的特征选择的灵活工具。下面，将通过一个实际示例来实施这种方法，并将其与其他常见的特征选择策略进行比较。
python中的StratifiedKFold
qq_41721660的博客
05-12 1万+
文章目录1. KFold2. StratifiedKFold3. generator4. 建模中的应用 1. KFold 首先要搞清楚，KFold是用于生成交叉验证的数据集的，而StratifiedKFold则是在KFold的基础上，加入了分层抽样的思想，使得测试集和训练集有相同的数据分布，因此表现在算法上，StratifiedKFold需要同时输入数据和标签，便于统一训练集和测试集的分布 概念 将数据K等分，依次选择其中一份作为测试集，其余k-1份作为训练集 X=np.array([ [
Cross-validation 交叉验证与训练集测试集划分
yisuoyanyv的博客
07-14 9056
由于代码比较简单，直接看代码生成的结果更容易理解代码的功能和作用，所以没有添加更多的说明。 参考官方文档地址：http://scikit-learn.org/stable/modules/cross_validation.html#cross-validation-evaluating-estimator-performanceimport numpy as np from sklearn.mod
Scikit-learn的K-fold交叉验证类ShuffleSplit、GroupShuffleSplit用法介绍
YQ的博客
06-26 2万+
当样本数据量比较小时，K-fold交叉验证是训练、评价模型时的常用方法，本文介绍Scikit-learn的可用于K-fold交叉验证的集合划分类ShuffleSplit、GroupShuffleSplit的用法。
python包sklearn中数据集的划分
qq_27390023的博客
07-17 883
代码】python包sklearn中数据集的划分。
DIVA靶场测试APP客户端不规范项（一）_diva android 是什么应用
wdsfgj的博客
04-17 822
使用了SharedPreferences类，该类是Android平台上一个轻量级的存储类，主要是用来保存一些常用的配置，本例中是用该类存储了用户名和密码，因此是具有风险的。SharedPreferences类存储的数据会以.xml的形式存储在/data/data/apppackagename/shared_prefs目录下。一般app对应的数据库目录: /data/data/apppackagename/databases。使用adb查看临时文件，目录在/data/data/apppackagename/
KFold，StratifiedKFold k折交叉切分
热门推荐
wqh_jingsong的专栏
09-08 7万+
StratifiedKFold用法类似Kfold，但是他是分层采样，确保训练集，测试集中各类别样本的比例与原始数据集中相同。例子：import numpy as np from sklearn.model_selection import KFold,StratifiedKFoldX=np.array([ [1,2,3,4], [11,12,13,14], [21,22,2
sklearn练习
mori644的博客
06-16 257
练习内容：For this assignment you need to generate a random binary classificationproblem, and then train and test (using 10-fold cross validation) the threealgorithms. For some algorithms inner cross valid...
测试sklearn包中常用的机器学习算法
千淘万漉
05-29 2230
# 如果某些方法名想不起，要善于利用IDE的自动补全功能 # excel的最后一列是分类标签，用的是0,1整数，是否能用字符串还未测试 # 统计每类标签有多少个样本用了filter函数 # 本程序中使用的数据集只有两分类0 1，数据集的格式完全一样，如下所示。 # anaconda已经集成了sklearn包，也集成了读写excel包，不需要pip安装 # -*- coding
sklearn机器学习（七）
weixin_45397053的博客
01-03 921
Task07 本次学习参照Datawhale开源学习：https://github.com/datawhalechina/machine-learning-toy-code/tree/main/ml-with-sklearn 内容安排如下，主要是一些代码实现和部分原理介绍。 7. 集成学习 上一章中我们谈到维度灾难照成模型效果下降问题，处理这样的高维问题除了使用降维方法，还有一个常用的方法是子空间方法。集成是子空间思想中常用的方法之一，它将多个在子空间表现较好的算法或基检测器的输出结合起来。集成学习通过构
sklearn划分训练集和测试集代码
10-04
# 将数据划分为训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) ``` 在上述代码中，我们首先通过`from sklearn.model_selection import train_test_...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值