Logik hinter dem ANOVA F-Test in einfacher linearer Regression

Ich versuche die Logik hinter dem ANOVA F-Test in der einfachen linearen Regressionsanalyse zu verstehen. Die Frage, die ich habe, ist wie folgt. Wenn der F-Wert, dh MSR/MSEgroß ist, akzeptieren wir das Modell als signifikant. Welche Logik steckt dahinter?

Im einfachsten Fall, wenn Sie nur einen Prädiktor haben (einfache Regression), sagen Sie , sagt Ihnen der F- Test, ob die Einbeziehung von X 1 einen größeren Teil der in Y beobachteten Varianz erklärt als das Nullmodell (nur Achsenabschnitt). . Die Idee ist dann zu testen, ob die hinzugefügte erklärte Varianz (Gesamtvarianz, TSS, minus Restvarianz, RSS) groß genug ist, um als "signifikante Größe" angesehen zu werden. Wir vergleichen hier ein Modell mit einem Prädiktor oder einer erklärenden Variablen mit einer Basislinie, die nur "Rauschen" ist (nichts außer dem großen Mittelwert).$X_1$$F$$X_1$$Y$

$F$$F$$t$$z$

$F$

$p$$n$$F_{p-1,n-p}$$p$

$\mathcal{M}_0$$\mathcal{M}_1$$p$$q=p+1$$\text{RSS}_{\mathcal{M}_1}-\text{RSS}_{\mathcal{M}_0}$$(\text{RSS}_{\mathcal{M}_1}-\text{RSS}_{\mathcal{M}_0})/\text{RSS}_{\mathcal{M}_0}$$p-q$$n-p$$F$$p-q$$n-p$$F$$F$$\alpha$$\alpha=0.05$

Eine Verallgemeinerung der obigen Idee ist der Likelihood-Ratio-Test .

Wenn Sie R verwenden, können Sie mit den obigen Konzepten wie folgt spielen:

df <- transform(X <- as.data.frame(replicate(2, rnorm(100))), 
                                   y = V1+V2+rnorm(100))
## simple regression
anova(lm(y ~ V1, df))         # "ANOVA view"
summary(lm(y ~ V1, df))       # "Regression view"
## multiple regression
summary(lm0 <- lm(y ~ ., df))
lm1 <- update(lm0, . ~ . -V2) # reduced model
anova(lm1, lm0)               # test of V2