Python 如何拆分数据集

前言

训练模型之前一般需要把数据集拆分为训练集和测试集，使用python代码如何拆分的关键就是如何更方便的选择出自变量X和因变量Y。

加载数据

# 导入第三方模块
import pandas as pd
# 读入数据
df = pd.read_csv(r'splitfeatures.csv')
df.head()

如何选择出X和Y

1. 最简单的方式一个一个选择

X = df[['age','sex','income','profession']]
y = df['is_buy']

2. 用iloc和loc选择

X1 = df.iloc[:,[0,1,2,4]]
y1 = df.iloc[:,[3]]
X2 = df.loc[:,['age','sex','income','profession']]
y2 = df.loc[:,['is_buy']]

3. 用drop选择

X3 = df.drop(['is_buy'],axis=1)
y3 = df.is_buy

4. 使用dataframe的colunms方法

col = df.columns[[0,1,2,4]]
X4 = df.loc[:,col]
X5 = df.iloc[:, df.columns != 'is_buy']
y5 = df.iloc[:, df.columns == 'is_buy']

使用model_selection拆分数据集

from sklearn import model_selection
# 将数据集拆分为训练集和测试集
X_train, X_test, y_train, y_test = model_selection.train_test_split(X, y, test_size = 0.2, random_state = 1234)

后记

看完上面的内容，应该对拆分数据集有了一个基本认识。下面写一个较为完整的案例：

• 引入必要的库
  在开始之前，我们需要引入一些必要的Python库，包括numpy和sklearn。Numpy库用于处理数组和矩阵，而sklearn库则提供了数据集拆分的函数。

import numpy as np
from sklearn.model_selection import train_test_split

• 加载数据集
  首先，我们需要加载我们的数据集。这里以一个简单的鸢尾花数据集为例。

from sklearn.datasets import load_iris

iris = load_iris()
X = iris.data
y = iris.target

• 数据集拆分
  使用sklearn库的train_test_split函数可以很方便地拆分数据集。该函数会将数据集按一定的比例拆分为训练集和测试集。

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

这里的test_size参数表示要分割测试集所占的比例，通常约定为0.2或0.3。而random_state参数用于设置随机种子，保证每次运行代码时得到的拆分结果是相同的。

• 拆分结果的验证
  在完成数据集拆分后，我们可以验证拆分的结果是否正确。这可以通过打印训练集和测试集的长度来实现。

print("训练集长度：", len(X_train))
print("测试集长度：", len(X_test))

• 拆分结果的应用
  最后，我们可以将拆分后的数据集用于模型的训练和测试。

# 在训练集上训练模型
model.fit(X_train, y_train)

# 在测试集上测试模型性能
accuracy = model.score(X_test, y_test)
print("模型准确率：", accuracy)

通过使用sklearn库的train_test_split函数，我们可以很方便地将数据集拆分为训练集和测试集。同时，我们还提到了调整拆分比例和设置随机种子的一些技巧。希望这些技巧能帮助你更好地进行模型训练和测试。