这里主要介绍简单随机抽样、分层抽样、整群抽样三种基本抽样方法。
用到的软件包及函数
软件包 | 函数 | 函数意义 |
base(无需加载,默认含有) | sample() | 简单随机抽样 |
Sampling(需下载) | stratr() | 分层抽样 |
cluster() | 整群抽样 |
实现三七原则实现训练集和测试集分割
实现简单的三七原则分割数据集和验证集
apache = data.frame(httpCode=c(200,200,200,404,404,500),
time=c(100,111,210,10,10,500),
api=c('index','index','logout','show','show','index'),
stringsAsFactors=F)
index_group <- sample(2, nrow(apache), replace = TRUE, prob=c(0.7, 0.3))
train_data <- apache[index_group == 1,]
test_data <- apache[ind == 2,]
str(house_data)
简单随机抽样
sample(x, size, replace = FALSE, prob =NULL)
x: 带抽取对象
size: 想要抽取的样本数量
replace: 是否为有放回,默认为FALSE,即无放回
prob: 设置个抽取样本的抽样概率,默认为无取值,即等概率抽样
例子,以MASS包中的Insurance数据集为例:
实现无放回抽样时,只需不对replace参数进行设置即可,此时size的取值不可以超过x的长度。
分层抽样
strata(data, stratanames=NULL, size, method=c("srswor","srswr","poisson","systematic"),pik,description=FALSE)
data: 带抽样数据
stratanames: 进行分层所依据的变量名称
size: 各层中要抽出的观测样本数
method: 选择4中抽样方法,分别为无放回、有放回、泊松、系统抽样,默认为srswor
pik: 设置各层中样本的抽样概率
description: 选择是否输出含有各层基本信息的结果
令description = T, 会给出共有多少层,每层中带抽样本总数及实际抽取样本数。
整群抽样
cluster(data, clustername, size, method=c("srswor","srswr","poisson","systematic"),
pik,description=FALSE)
clustername: 用来划分群的变量名称
size:需要抽取的群数
抽中了District = 2,4的两个整群(下图只显示了一部分)
训练集与测试集
x为输入变量,y为输出变量。利用训练集中的x,y建立模型。
将测试集中的x带入模型,来预测测试集目标输出变量y的值,设为y’,将训练集的x带入模型,来预测训练集目标输出变量y的值,设为y’’。那么y’’与y的误差评价了模型的拟合程度,即自己对自己的契合程度;而y’与y的误差则评价了模型的推广程度,即与别人的契合程度。当我们说一个模型相对较好时,往往指该模型的拟合程度和推广程度综合最优。
一般控制训练集与测试集之比为3:1: