Erhalten einer Formel für Vorhersagegrenzen in einem linearen Modell (dh Vorhersageintervalle)

Nehmen wir das folgende Beispiel:

set.seed(342)
x1 <- runif(100)
x2 <- runif(100)
y <- x1+x2 + 2*x1*x2 + rnorm(100)
fit <- lm(y~x1*x2)

Dies erstellt ein Modell von y basierend auf x1 und x2 unter Verwendung einer OLS-Regression. Wenn wir y für ein gegebenes x_vec vorhersagen möchten, könnten wir einfach die Formel verwenden, die wir aus dem erhalten summary(fit).

Was aber, wenn wir die unteren und oberen Vorhersagen von y vorhersagen wollen? (für ein gegebenes Konfidenzniveau).

Wie würden wir dann die Formel erstellen?

Sie benötigen eine Matrixarithmetik. Ich bin mir nicht sicher, wie Excel damit umgehen wird. Wie auch immer, hier sind die Details.

Angenommen , Ihre Regression geschrieben wird als .$\mathbf{y} = \mathbf{X}\mathbf{\beta} + \mathbf{e}$

Sei ein Zeilenvektor, der die Werte der Prädiktoren für die Vorhersagen enthält (im selben Format wie X ). Dann wird die Prognose gegeben durch y = X * β = X * ( X ' X ) - 1 X ' Y mit einer zugehörigen Varianz σ 2 [ 1 + X * ( X ' X ) - 1 ( X * ) ' ]$\mathbf{X}^*$$\mathbf{X}$

$$\hat{y} = \mathbf{X}^*\hat{\mathbf{\beta}} = \mathbf{X}^*(\mathbf{X}'\mathbf{X})^{-1}\mathbf{X}'\mathbf{Y}$$ $$\sigma^2 \left[1 + \mathbf{X}^* (\mathbf{X}'\mathbf{X})^{-1} (\mathbf{X}^*)'\right].$$ Dann kann ein 95% Vorhersageintervall berechnet werden (unter der Annahme , normal verteilten Fehler) als y ± 1,96 & sgr; √ Dies berücksichtigt die Unsicherheit aufgrund des Fehlertermseund die Unsicherheit bei den Koeffizientenschätzungen. Allerdings ignoriert er alle Fehler in X *. Wenn die zukünftigen Werte der Prädiktoren unsicher sind, ist das mit diesem Ausdruck berechnete Vorhersageintervall zu eng. $$\hat{y} \pm 1.96 \hat{\sigma} \sqrt{1 + \mathbf{X}^* (\mathbf{X}'\mathbf{X})^{-1} (\mathbf{X}^*)'}.$$ $e$$\mathbf{X}^*$

Sind Sie zufällig nach den verschiedenen Arten von Vorhersageintervallen? Die predict.lmManpage hat

 ## S3 method for class 'lm'
 predict(object, newdata, se.fit = FALSE, scale = NULL, df = Inf, 
         interval = c("none", "confidence", "prediction"),
         level = 0.95, type = c("response", "terms"),
         terms = NULL, na.action = na.pass,
         pred.var = res.var/weights, weights = 1, ...)

und

Das Einstellen von 'Intervallen' legt die Berechnung von Konfidenz- oder Vorhersageintervallen (Toleranzintervallen) auf der angegebenen 'Ebene' fest, die manchmal als enge vs. breite Intervalle bezeichnet werden.

Ist es das, was du im Sinn hattest?

@Tal: Könnte ich Kutner et al. Als hervorragende Quelle für lineare Modelle vorschlagen?

$E(Y|X_{vec})$

$E(Y|X_{vec})$$\hat{Y}$ $\pm$$\alpha$$\hat{Y}$$\hat{Y}$$\hat{Y}$$\frac{\sigma^{2}}{n}$$X_{vec}-\bar{X})^{2}\frac{\sigma^{2}}{\sum(X_{i}-\bar{X})^{2}}$