在隨機森林方法中,建立了大量的決策樹。每個觀察結果都被送入每個決策樹。 每個觀察結果最常用作最終輸出。對所有決策樹進行新的觀察,並對每個分類模型進行多數投票。
對於在構建樹時未使用的情況進行錯誤估計。 這被稱為OOB(Out-of-bag)錯誤估計,以百分比表示。
R中的軟體包「randomForest」
用於建立隨機林。
在R控制台中使用以下命令安裝軟體包,還必須安裝其它依賴軟體包(如果有的話)。
install.packages("randomForest")
軟體包「randomForest」
具有用於建立和分析隨機林的randomForest()
函式。
在R中建立隨機林的基本語法是 -
randomForest(formula, data)
以下是使用的引數的描述 -
我們將使用名為readingSkills
的R內建資料集來建立一個決策樹。 如果我們知道變數:"age"
,"shoesize"
,"score"
以及"nativeSpeaker"
表示該人員是否為講母語的人,那麼它描述某個人員的閱讀技能的得分。
以下是樣本資料 -
# Load the party package. It will automatically load other required packages.
library(party)
# Print some records from data set readingSkills.
print(head(readingSkills))
當我們執行上面的程式碼,它產生以下結果 -
nativeSpeaker age shoeSize score
1 yes 5 24.83189 32.29385
2 yes 6 25.95238 36.63105
3 no 11 30.42170 49.60593
4 yes 7 28.66450 40.28456
5 yes 11 31.88207 55.46085
6 yes 10 30.07843 52.83124
我們將使用randomForest()
函式來建立決策樹並檢視它生成的圖形。參考以下程式碼 -
setwd("F:/worksp/R")
# Load the party package. It will automatically load other required packages.
library("party")
library("randomForest")
# Create the forest.
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score,
data = readingSkills)
# View the forest results.
print(output.forest)
# Importance of each predictor.
print(importance(output.forest,type = 2))
當我們執行上面的程式碼,它產生以下結果 -
Call:
randomForest(formula = nativeSpeaker ~ age + shoeSize + score, data = readingSkills)
Type of random forest: classification
Number of trees: 500
No. of variables tried at each split: 1
OOB estimate of error rate: 1.5%
Confusion matrix:
no yes class.error
no 99 1 0.01
yes 2 98 0.02
MeanDecreaseGini
age 14.09296
shoeSize 17.88001
score 57.55174
結論
從上面所示的隨機森林可以得出結論,鞋子大小和得分是決定某人是否是母語者的重要因素。 此外,該模型只有1%
的誤差,這意味著我們可以以99%
的準確度預測。