Residuendiagramme: Warum Diagramm gegen angepasste Werte, nicht beobachtete Werte?

Im Zusammenhang mit der OLS-Regression verstehe ich, dass ein Residuendiagramm (gegen angepasste Werte) herkömmlicherweise betrachtet wird, um auf konstante Varianz zu testen und die Modellspezifikation zu bewerten. Warum werden die Residuen gegen die Anpassungen und nicht gegen die Werte aufgetragen ? Inwiefern unterscheiden sich die Informationen von diesen beiden Darstellungen?$Y$

Ich arbeite an einem Modell, das die folgenden Residuendiagramme erstellt hat:

Das Diagramm gegenüber den angepassten Werten sieht also auf einen Blick gut aus, aber das zweite Diagramm gegenüber dem Wert weist ein Muster auf. Ich frage mich, warum sich ein so ausgeprägtes Muster nicht auch im Residuum-vs-Fit-Diagramm manifestieren würde.$Y$

Ich suche keine Hilfe bei der Diagnose von Problemen mit dem Modell, sondern versuche nur, die Unterschiede (im Allgemeinen) zwischen (1) Residuum-Fit-Diagramm und (2) Residuum- Diagramm zu verstehen . $Y$

Ich bin mir sicher, dass das Fehlermuster in der zweiten Tabelle auf ausgelassene Variablen zurückzuführen ist, die den DV beeinflussen. Ich arbeite derzeit daran, diese Daten zu erhalten, von denen ich erwarte, dass sie die Gesamtanpassung und Spezifikation unterstützen. Ich arbeite mit Immobiliendaten: DV = Verkaufspreis. IVs: qm Haus, # Garagenplätze, Baujahr, Baujahr . $^2$

Durch die Konstruktion ist der Fehlerterm in einem OLS-Modell nicht mit den beobachteten Werten der X-Kovariaten korreliert. Dies gilt immer für die beobachteten Daten, auch wenn das Modell verzerrte Schätzungen liefert, die nicht die wahren Werte eines Parameters widerspiegeln, da eine Annahme des Modells verletzt wird (wie ein Problem mit ausgelassenen Variablen oder ein Problem mit umgekehrter Kausalität). Die vorhergesagten Werte sind vollständig eine Funktion dieser Kovariaten, daher sind sie auch nicht mit dem Fehlerterm korreliert. Wenn Sie also Residuen gegen vorhergesagte Werte plotten, sollten sie immer zufällig aussehen, da sie durch die Konstruktion des Schätzers tatsächlich nicht korreliert sind. Im Gegensatz dazu ist es durchaus möglich (und wahrscheinlich), dass der Fehlerterm eines Modells in der Praxis mit Y korreliert. Beispielsweise ist bei einer dichotomen X-Variablen das wahre Y umso weiter von einem der beiden entferntE(Y | X = 1)oder je E(Y | X = 0)größer der Rest ist. Hier ist dieselbe Intuition mit simulierten Daten in R, in der wir wissen, dass das Modell unvoreingenommen ist, weil wir den Datenerzeugungsprozess steuern:

rm(list=ls())
set.seed(21391209)

trueSd <- 10
trueA <- 5
trueB <- as.matrix(c(3,5,-1,0))
sampleSize <- 100

# create independent x-values
x1 <- rnorm(n=sampleSize, mean = 0, sd = 4)
x2 <-  rnorm(n=sampleSize, mean = 5, sd = 10)
x3 <- 3 + x1 * 4 + x2 * 2 + rnorm(n=sampleSize, mean = 0, sd = 10)
x4 <- -50 + x1 * 7 + x2 * .5 + x3 * 2  + rnorm(n=sampleSize, mean = 0, sd = 20)
X = as.matrix(cbind(x1,x2,x3,x4))


# create dependent values according to a + bx + N(0,sd)
Y <-  trueA +  X %*%  trueB  +rnorm(n=sampleSize,mean=0,sd=trueSd)


df = as.data.frame(cbind(Y,X))
colnames(df) <- c("y", "x1", "x2", "x3", "x4")
ols = lm(y~x1+x2+x3+x4, data = df)
y_hat = predict(ols, df)
error = Y - y_hat
cor(y_hat, error) #Zero
cor(Y, error) #Not Zero

Wir erhalten das gleiche Ergebnis der Nullkorrelation mit einem voreingenommenen Modell, zum Beispiel wenn wir es weglassen x1.

ols2 = lm(y~x2+x3+x4, data = df)
y_hat2 = predict(ols2, df)
error2 = Y - y_hat2
cor(y_hat2, error2) #Still zero
cor(Y, error2) #Not Zero

Zwei Tatsachen, von denen ich annehme, dass Sie mit mir zufrieden sind:

$y_i = \hat{y}_i+\hat{e}_i$

$\text{Cov}(\hat{y}_i,\hat{e}_i)=0$

Dann:

$\text{Cov}(y_i,\hat{e}_i)=\text{Cov}(\hat{y}_i+\hat{e}_i,\hat{e}_i)$

$\qquad=\text{Cov}(\hat{y}_i,\hat{e}_i) +\text{Cov}(\hat{e}_i,\hat{e}_i)$

$\qquad=0 +\sigma^2_e$

$\qquad=\sigma^2_e$

Während also der Einbau Wert mit dem Rest nicht korreliert ist, die Beobachtung ist .

Tatsächlich hängt dies damit zusammen, dass sowohl die Beobachtung als auch das Residuum mit dem Fehlerterm zusammenhängen.

Dies macht es normalerweise etwas schwieriger, das Restdiagramm für diagnostische Zwecke zu verwenden.