在k重交叉验证中,样本被分为k个子样本,轮流将k–1个子样本组合作为训练集,另外1个子样本作为保留集。这样会获得k个预测方程,记录k个保留样本的预测表现结果,然后求其平均值。(当n是观测总数目,且k为n时,该方法又称作刀切法,jackknifing。)
目前实现了交叉检验的两种实现方法:
1.boot包里的cv.glm()函数
主要用来做广义线性模型的交叉验证,一般与glm()函数一起使用。
glm()函数中的参数family = “binomial”用来执行逻辑斯蒂回归,但如果用glm()函数拟合模型时没有设定family参数,那么它就跟lm()函数一样执行的是线性回归。
library(boot)
cv.err <- cv.glm(total_train, total.glm, K = 5)
cv.err$delta
# 返回的向量是交叉验证的结果,包含两个值,分别为原始的交叉验证和调整的交叉验证值。(《统计学习导论》讲过)
- bootstrap包里的crossval()函数
通用的交叉验证法。