R 随机森林算法

在随机森林方法中,创建大量的决策树。 每个观察被馈入每个决策树。 每个观察的最常见的结果被用作最终输出。 新的观察结果被馈入所有的树并且对每个分类模型取多数投票。

对构建树时未使用的情况进行错误估计。 这称为OOB(袋外)误差估计,其被提及为百分比。

R语言包“randomForest”用于创建随机森林。

安装R包

在R语言控制台中使用以下命令安装软件包。 您还必须安装相关软件包(如果有)。

  1. install.packages("randomForest)

包“randomForest”具有函数randomForest(),用于创建和分析随机森林。

语法

在R语言中创建随机森林的基本语法

  1. randomForest(formula, data)

以下是所使用的参数的描述

  • formula是描述预测变量和响应变量的公式。

  • data是所使用的数据集的名称。

输入数据

我们将使用名为readingSkills的R语言内置数据集来创建决策树。 它描述了某人的readingSkills的分数,如果我们知道变量“age”,“shoesize”,“score”,以及该人是否是母语。

以下是示例数据。

  1. # Load the party package. It will automatically load other required packages.
  2. library(party)
  3. # Print some records from data set readingSkills.
  4. print(head(readingSkills))

当我们执行上面的代码,它产生以下结果及图表

  1. nativeSpeaker age shoeSize score
  2. 1 yes 5 24.83189 32.29385
  3. 2 yes 6 25.95238 36.63105
  4. 3 no 11 30.42170 49.60593
  5. 4 yes 7 28.66450 40.28456
  6. 5 yes 11 31.88207 55.46085
  7. 6 yes 10 30.07843 52.83124
  8. Loading required package: methods
  9. Loading required package: grid
  10. ...............................
  11. ...............................

实例

我们将使用randomForest()函数来创建决策树并查看它的图。

  1. # Load the party package. It will automatically load other required packages.
  2. library(party)
  3. library(randomForest)
  4. # Create the forest.
  5. output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score,
  6. data = readingSkills)
  7. # View the forest results.
  8. print(output.forest)
  9. # Importance of each predictor.
  10. print(importance(fit,type = 2))

当我们执行上面的代码,它产生以下结果:

  1. Call:
  2. randomForest(formula = nativeSpeaker ~ age + shoeSize + score,
  3. data = readingSkills)
  4. Type of random forest: classification
  5. Number of trees: 500
  6. No. of variables tried at each split: 1
  7. OOB estimate of error rate: 1%
  8. Confusion matrix:
  9. no yes class.error
  10. no 99 1 0.01
  11. yes 1 99 0.01
  12. MeanDecreaseGini
  13. age 13.95406
  14. shoeSize 18.91006
  15. score 56.73051

结论

从上面显示的随机森林,我们可以得出结论,鞋码和成绩是决定如果某人是母语者或不是母语的重要因素。 此外,该模型只有1%的误差,这意味着我们可以预测精度为99%。