写一段python代码,可以将.csv的数据集分成训练集,测试集,开发集,比例大小为8:1:1
下面展示一些 内联代码片
。
// 一段python代码,可以将.csv的数据集分成训练集,测试集,开发集,比例大小为8:1:1
import pandas as pd
from sklearn.model_selection import train_test_split
#载入数据
data=pd.read_csv('data.csv')
#将数据集分为训练集,测试集和开发集(比例大小为8:1:1)
train_data,dev_test_data=train_test_split(data,test_size=0.2,random_state=42)
dev_data,test_data=train_test_split(dev_test_data,test_size=0.5,random_state=42)
#保存训练集,测试集和开发集
train_data.to_csv('train.csv',index=False)
test_data.to_csv('test.csv',index=False)
dev_data.to_csv('dev.csv',index=False)
这段代码首先使用pandas库中的read_csv()函数来读取csv文件并存储在一个DataFrame对象中。然后调用sklearn.model_selection库中的train_test_split()函数来将数据集划分为80%的训练集和20%的开发测试集。接下来,再次使用train_test_split()函数将开发测试集分为50%的开发集和50%的测试集。最后,将三个数据集(即train.csv, test.csv和dev.csv)分别保存到本地磁盘上。