我們使用迴歸分析來建立描述預測變數變數對響應變數的影響的模型。有時，如果我們有類似於是/否或男/女等值的分類變數，簡單迴歸分析為分類變數的每個值提供多個結果。在這種情況下，可以通過使用分類變數和預測變數來研究分類變數的影響，並比較分類變數的每個級別的回歸線。 這樣的分析被稱為協方差分析，也稱為ANCOVA。
輸入資料
從R提供的資料集mtcars建立一個包含欄位「mpg」，「hp」和「am」的資料框。 這裡我們將「mpg」作為響應變數，將「hp」作為預測變數，將「am」作為分類變數。
input <- mtcars[,c("am","mpg","hp")]
print(head(input))
當我們執行上述程式碼時，會產生以下結果 -
am mpg hp
Mazda RX4 1 21.0 110
Mazda RX4 Wag 1 21.0 110
Datsun 710 1 22.8 93
Hornet 4 Drive 0 21.4 110
Hornet Sportabout 0 18.7 175
Valiant 0 18.1 105
我們建立一個回歸模型，將「hp」作為預測變數，將「mpg」作為響應變數，考慮到「am」和「hp」之間的相互作用，參考以下範例程式碼 -
模型與分類變數和預測變數之間的互動
# Get the dataset.
input <- mtcars
# Create the regression model.
result <- aov(mpg~hp*am,data = input)
print(summary(result))
當我們執行上述程式碼時，會產生以下結果 -
Df Sum Sq Mean Sq F value Pr(>F)
hp 1 678.4 678.4 77.391 1.50e-09 ***
am 1 202.2 202.2 23.072 4.75e-05 ***
hp:am 1 0.0 0.0 0.001 0.981
Residuals 28 245.4 8.8
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
該結果表明，馬力和變速箱型均具有對每加侖英里數的顯著影響，因為這兩種情況下的p值均小於0.05。但是，這兩個變數之間的相互作用並不重要，因為p值大於0.05。
分類變數與預測變數之間沒有互動的模型 -
# Get the dataset.
input <- mtcars
# Create the regression model.
result <- aov(mpg~hp+am,data = input)
print(summary(result))
當我們執行上述程式碼時，會產生以下結果 -
Df Sum Sq Mean Sq F value Pr(>F)
hp 1 678.4 678.4 80.15 7.63e-10 ***
am 1 202.2 202.2 23.89 3.46e-05 ***
Residuals 29 245.4 8.5
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
該結果表明，馬力和變速箱型均具有對每加侖英里數的顯著影響，因為這兩種情況下的p值均小於0.05。
現在可以比較這兩個模型來確定變數的相互作用是否真的有意義的。 為此，我們使用anova()函式。
# Get the dataset.
input <- mtcars
# Create the regression models.
result1 <- aov(mpg~hp*am,data = input)
result2 <- aov(mpg~hp+am,data = input)
# Compare the two models.
print(anova(result1,result2))
當我們執行上述程式碼時，會產生以下結果 -
Model 1: mpg ~ hp * am
Model 2: mpg ~ hp + am
Res.Df RSS Df Sum of Sq F Pr(>F)
1 28 245.43
2 29 245.44 -1 -0.0052515 6e-04 0.9806
由於p值大於0.05，我們得出結論，馬力與傳播型別之間的相互作用不明顯。所以每加崙里程將取決於自動和手動變速模式的馬力。