Sind Residuen "vorhergesagt minus tatsächlich" oder "tatsächlich minus vorhergesagt"?

Ich habe gesehen, dass "Residuen" unterschiedlich definiert sind als "vorhergesagte minus tatsächliche Werte" oder "tatsächliche minus vorausgesagte Werte". Um zu veranschaulichen, dass beide Formeln weit verbreitet sind, vergleichen Sie die folgenden Websuchen:

• Rest "vorhergesagt minus tatsächlich"
• Rest "Ist minus vorhergesagt"

In der Praxis macht es fast keinen Unterschied, da das Vorzeichen der einzelnen Residuen normalerweise keine Rolle spielt (z. B. ob sie quadriert sind oder die absoluten Werte genommen werden). Meine Frage ist jedoch: Wird eine dieser beiden Versionen (Vorhersage zuerst gegen tatsächliche zuerst) als "Standard" betrachtet? Ich mag es, konsequent zu sein. Wenn es also einen gut etablierten konventionellen Standard gibt, würde ich ihn lieber befolgen. Wenn es jedoch keine Norm gibt, nehme ich das gerne als Antwort an, wenn sich überzeugend nachweisen lässt, dass es keine Normkonvention gibt.

Die Residuen sind immer aktuell minus vorhergesagt. Die Modelle sind: , daher die Residuen & epsi , die Schätzungen von Fehlern sind ε : ε = y -

Ich stimme @whuber zu, dass das Vorzeichen mathematisch keine Rolle spielt. Es ist nur gut, eine Convention zu haben. Und die aktuelle Konvention ist wie in meiner Antwort.

Da OP meine Autorität in diesem Bereich in Frage gestellt hat, füge ich einige Referenzen hinzu:

• " (2008) Residual. In: The Concise Encyclopedia of Statistics. Springer, New York, NY , die die gleiche Definition gibt.
• Die gleiche Definition hat auch Fischers "Statistical Methods for Research Workers" von 1925, siehe Abschnitt 26 in dieser Fassung von 1934 . Trotz des bescheidenen Titels ist dies ein wichtiges Werk im historischen Kontext

Ich bin gerade auf einen zwingenden Grund gestoßen, dass eine Antwort die richtige ist.

$y$$x$

Die blaue Kurve ist die gewöhnliche Anpassung der kleinsten Quadrate. Es zeichnet die angepassten Werte auf.

$y$$\hat y$

Dies ist ein Standarddiagnoseplot, der zeigt, wie sich die verschobenen bedingten Verteilungen mit den vorhergesagten Werten ändern. Geometrisch ist es fast dasselbe wie das "Entkippen" des vorherigen Streudiagramms.

$\hat y - y,$

Dies zeigt die gleichen Größen wie die vorherige Abbildung, aber die Residuen wurden berechnet, indem die Daten von ihren Anpassungen subtrahiert wurden - was natürlich gleichbedeutend ist mit dem Negieren der vorherigen Residuen.

Obwohl beide vorhergehenden Figuren in jeder Hinsicht mathematisch äquivalent sind - eine wird durch einfaches Umdrehen der Punkte über den blauen Horizont in die andere umgewandelt -, weist eine von ihnen eine viel direktere visuelle Beziehung zur ursprünglichen Zeichnung auf.

Wenn unser Ziel darin besteht, die Verteilungseigenschaften der Residuen mit den Eigenschaften der Originaldaten in Beziehung zu setzen - und das ist fast immer der Fall -, ist es daher besser, die Antworten einfach zu verschieben, anstatt sie zu verschieben und umzukehren.

$y - \hat y.$

Green & Tashman (2008, Foresight ) berichten über eine kleine Umfrage zur analogen Frage nach Prognosefehlern. Ich werde die Argumente für beide Konventionen zusammenfassen, wie von ihnen berichtet:

Argumente für "aktuell vorausgesagt"

1. $y=\hat{y}+\epsilon$

2. Mindestens ein Befragter aus der Seismologie schrieb, dies sei auch die Konvention zur Modellierung der Laufzeit seismischer Wellen. "Wenn die tatsächliche seismische Welle vor der vom Modell vorhergesagten Zeit eintrifft, haben wir eine negative Restlaufzeit (Fehler)." ( sic )

3. $\hat{y}$

4. $+$$-$

Argumente für "prognostiziert-aktuell"

1. $y=\hat{y}-\epsilon$

   Wenn eine positive Verzerrung als positive erwartete Fehler definiert wird, würde dies bedeuten, dass die Prognosen mit dieser Konvention im Durchschnitt zu hoch sind.

   Und dies ist so ziemlich das einzige Argument für diese Konvention. Andererseits ist es angesichts der Missverständnisse, zu denen die andere Konvention führen kann (positive Fehler = zu niedrige Prognose), eine starke.

Am Ende würde ich argumentieren, dass es darauf ankommt, wem Sie Ihre Residuen mitteilen müssen. Und da diese Diskussion sicherlich zwei Seiten hat, ist es sinnvoll, explizit anzugeben, welcher Konvention Sie folgen.

Unterschiedliche Terminologie schlägt unterschiedliche Konventionen vor. Der Begriff "Residuum" impliziert, dass es das ist, was übrig bleibt, nachdem alle erklärenden Variablen berücksichtigt wurden, dh tatsächlich vorhergesagt wurden. "Vorhersagefehler" impliziert, dass es darum geht, wie sehr die Vorhersage vom tatsächlichen Wert abweicht, dh von der tatsächlichen Vorhersage.

$X = x_1,x_2...$$y$$\hat y$

$y$$\hat y$$X$$y$$\hat y$$\hat y$$y$$\hat y$$\hat y$$y$$\hat y$$y$$e = \hat y -y$

$\hat y$$X$$X$$x \rightarrow f(X)\rightarrow f(X)+error()$$\hat y$$X$$y$$\sqrt{\frac{2x}{g}}$

$\hat y = \sqrt{\frac{2x}{g}}$
$y = \hat y +error$

$\hat y$$y$$\hat y$$X$

$\sqrt{\frac{2x}{g}}$$y = \hat y +error$

$X$

$\hat y = f(X)$
$y = \hat y+g(?)$
$g = y-\hat y$

Die Antwort von @Aksakal ist völlig korrekt, aber ich füge nur ein zusätzliches Element hinzu, das mir (und meinen Schülern) hilft.

Das Motto: Statistik ist "perfekt". Wie in, kann ich immer die perfekte Vorhersage liefern (ich weiß, dass einige Augenbrauen gerade hochziehen ... also hör mir zu).

$y_i$$\hat{y}_i$

$\epsilon_i$

$\newcommand{\e}{\varepsilon}$Ich werde den speziellen Fall der linearen Regression der kleinsten Quadrate verwenden. Wenn wir unser Modell nehmen zu sein dann als @Aksakal Punkte heraus , dass wir natürlich am Ende mit so . Wenn stattdessen nehmen wir als unser Modell, das wir sicherlich frei zu tun, dann bekommen wir . An diesem Punkt gibt es wirklich keinen Grund, eins dem anderen vorzuziehen, abgesehen von einer vagen Präferenz für gegenüber .$Y = X\beta + \e$$\e = Y - X\beta$$\hat \e = Y - \hat Y$$Y = X\beta - \e$$\e = X\beta - Y \implies \hat \e = \hat Y - Y$$1$$-1$

Aber wenn dann erhalten wir unsere Residuen über , wobei eine idempotente Matrix ist, die in den Raum orthogonal zum Spaltenraum der Entwurfsmatrix projiziert . Wenn wir stattdessen verwendet dann enden wir mit bis . Aber ist selbst nicht idempotent als . Also ist wirklich das Negativ einer Projektionsmatrix, nämlich . Ich betrachte dies als Rückgängigmachen des mit eingeführten Negativs. Aus Sparsamkeitsgründen ist es also besser, nur zu verwenden$\hat \e = Y - \hat Y$$(I - P_X)Y$$I - P_X$$X$$Y = X\beta - \e$$\hat \e = (P_X - I)Y$$P_X - I$P X - I I - P X Y = X β - ε Y = X β + ε Y - $(P_X - I)^2 = P_X^2 - 2P_X + I = -(P_X - I)$$P_X - I$$I - P_X$$Y = X\beta - \e$$Y = X\beta + \e$ was wiederum als Residuen ergibt .$Y - \hat Y$

Wie an anderer Stelle erwähnt, ist es nicht so, als würde etwas kaputt gehen, wenn wir , aber es kommt zu dieser doppelten negativen Situation, die meiner Meinung nach ein guter Grund ist, einfach .Y -$\hat Y - Y$$Y - \hat Y$