使用回归树预测模型的优点是可以处理缺失值问题,首先需要先加载rpart包。回归树自动筛选某些相关的变量,所以不是所有的变量都会在树中出现。
回归树的建立分为2步:1.生成一颗较大的树。然后删除一些底层节点来进行树的修剪。防止过拟合。在构建树的过程中,当给定条件满足时构建过程就停止:1)偏差的减小小于阈值时,2)当节点中的样本数量小于某个给定界限时3)当树的深度大于某个给定的界限时。这三个参数在rpart中有三个参数分别对应(cp,minsplit,maxdepth),包中给出的默认值是0.01,20,30。
2.修剪树。rpart包中含有一种修剪方法,是计算每个子树的性能,printcp(),cp是上一点中提到的偏差减小的阈值。
R中有experimentalComparison()函数可以进行模型的选择和比较。它的内部原理是使用K折交叉验证的方法,返回值的类型是一个向量,表示交叉验证功能中用户需要的性能评估指标值。