决策树与随机森林的R语言实现

最新推荐文章于 2024-07-01 11:04:10 发布

EnjoySmile

最新推荐文章于 2024-07-01 11:04:10 发布

阅读量1.7w

点赞数 8

分类专栏： R语言数据挖掘与数据分析文章标签： R 数据挖掘决策树随机森林

本文链接：https://blog.csdn.net/EnjoySmile/article/details/50612486

版权

本文介绍了如何在R语言中实现决策树和随机森林。通过party包的ctree()和rpart包的rpart()函数，分别以iris和bodyfat数据集为例进行建模，并讨论了处理缺失值和分类变量水平值的问题。对于随机森林，提到了randomForest()函数的限制，以及cforest()函数的优势。

摘要由CSDN通过智能技术生成

1.用party包构建决策树

以iris数据集为例。

用ctree()建立决策树，用predict()对新数据进行预测。

训练集与测试集划分：

> str(iris)
'data.frame':	150 obs. of  5 variables:
 $ Sepal.Length: num  5.1 4.9 4.7 4.6 5 5.4 4.6 5 4.4 4.9 ...
 $ Sepal.Width : num  3.5 3 3.2 3.1 3.6 3.9 3.4 3.4 2.9 3.1 ...
 $ Petal.Length: num  1.4 1.4 1.3 1.5 1.4 1.7 1.4 1.5 1.4 1.5 ...
 $ Petal.Width : num  0.2 0.2 0.2 0.2 0.2 0.4 0.3 0.2 0.2 0.1 ...
 $ Species     : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...
> set.seed(1234)
> ind <- sample(2, nrow(iris), replace=TRUE, prob=c(0.7, 0.3))
> trainData <- iris[ind==1,]
> testData <- iris[ind==2,]

用默认参数来建立决策树：

> library(party)
> myFormula <- Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width
> iris_ctree <- ctree(myFormula, data=trainData)
> # check the prediction
> table(predict(iris_ctree), trainData$Species)
            
             setosa versicolor virginica
  setosa         40          0         0
  versicolor      0         37         3
  virginica       0          1        31

输出规则并绘制已构建好的决策树以便查看。

> print(iris_ctree)

	 Conditional inference tree with 4 terminal nodes

Response:  Species 
Inputs:  Sepal.Length, Sepal.Width, Petal.Length, Petal.Width 
Number of observations:  112 

1) Petal.Length <= 1.9; criterion = 1, statistic = 104.643
  2)*  weights = 40 
1) Petal.Length > 1.9
  3) Petal.Width <= 1.7; criterion = 1, statistic = 48.939
    4) Petal.Length <= 4.4; criterion = 0.974, statistic = 7.397
      5)*  weights = 21 
    4) Petal.Length > 4.4
      6)*  weights = 19 
  3) Petal.Width > 1.7
    7)*  weights = 32 
> plot(iris_ctree)
> # 图略

> plot(iris_ctree, type="simple")

> #图略

用测试集对构建好的决策树进行测试：

> # predict on test data
> testPred <- predict(iris_ctree, newdata = testData)
> table(testPred, testData$Species)
            
testPred     setosa versicolor virginica
  setosa         10          0