R语言机器学习系列-决策树多分类代码

采用决策树解决多分类问题的代码与解决二分类问题的代码类似，也是构建初始树、后剪枝、输出变量重要性、树形图、预测几个步骤。差别在于，决策树预测多分类问题的具体分类是直接采用predict函数，将type设置为class即可，这样得到的就是各个样本的具体预测类别。当然也可以将type设置为prob，从而得到预测概率，该预测概率可以用于后续计算多分类的AUC。

关于多分类问题的ROC，可以将结果拆分为多个一vs.其他的形式，从而得到多条经过转化的二分类的ROC曲线，这些曲线可以采用叠加的方式放到一张图上。

# 构建模型
set.seed(42) # 固定交叉验证结果
fit_dt_clsm <- rpart(
  form_clsm,
  data = traindata,
  method = "class", # 分类模型
  parms = list(split = "information"), # 分裂规则
  control = rpart.control(cp = 0.005) # 复杂度参数
)
# 原始分类树
fit_dt_clsm
# 复杂度相关数据
printcp(fit_dt_clsm)
plotcp(fit_dt_clsm)
# 后剪枝
fit_dt_clsm_pruned <- prune(fit_dt_clsm, cp = 0.01)
print(fit_dt_clsm_pruned)

# 变量重要性
fit_dt_clsm_pruned$variable.importance
barplot(fit_dt_clsm_pruned$variable.importance)
# 变量重要性图示
varimpdata <- data.frame(importance = fit_dt_clsm_pruned$variable.importance)
ggplot(varimpdata, 
       aes(x