Ableiten des Standardfehlers des linearen Regressionskoeffizienten

20

Für dieses univariate lineare Regressionsmodell gegebenem Datensatz lauten die Koeffizientenschätzungen Hier ist meine Frage nach dem Buch und Wikipedia , der Standardfehler von ist Wie und warum? D = { ( x 1 , y 1 ) , . . . , ( X n , y n ) } β 1 = Σ i x i y i - n ˉ x ˉ y

yi=β0+β1xi+ϵi
D={(x1,y1),...,(xn,yn)} β 0= ˉ y - β 1 ˉ x β 1s β 1=
β^1=ichxichyich-nx¯y¯nx¯2-ichxich2
β^0=y¯-β^1x¯
β^1
sβ^1=ichϵ^ich2(n-2)ich(xich-x¯)2
Avocado
quelle
@ocram, danke, aber ich bin nicht ganz in der Lage mit Matrixsachen umzugehen, ich werde es versuchen.
Avocado
1
@ocram, ich habe schon verstanden, wie es kommt. Aber noch eine Frage: In meinem Beitrag hat der Standardfehler , wo laut deiner Antwort nicht, warum? (n-2)
Avocado

Antworten:

15

3. Kommentar oben: Ich habe schon verstanden, wie es kommt. Aber noch eine Frage: In meinem Beitrag hat der Standardfehler (n-2), wo nach Ihrer Antwort nicht, warum?


In meinem Beitrag wurde festgestellt, dass Der Nenner kann wie geschrieben werden: Somit ist

se^(b^)=nσ^2nxich2-(xich)2.
nich(xich-x¯)2
se^(b^)=σ^2ich(xich-x¯)2

Mit dh dem mittleren quadratischen Fehler (MSE) in der ANOVA-Tabelle, erhalten wir Ihren Ausdruck für . Der Term erklärt den Verlust von 2 Freiheitsgraden bei der Schätzung des Abschnitts und der Steigung.

σ^2=1n-2ichϵ^ich2
se^(b^)n-2
Ocram
quelle
1
Ich glaube ich bekomme alles andere zum letzten Teil erwartet. Können Sie Schritt für Schritt zeigen, warum ? Ich weiß auch, dass es mit den Freiheitsgraden zusammenhängt, aber ich verstehe die Mathematik nicht. σ^2=1n-2ichϵ^ich2
Mappi
2

Eine andere Art, über n-2 df nachzudenken, ist, dass wir 2 Mittelwerte verwenden, um den Steigungskoeffizienten (den Mittelwert von Y und X) zu schätzen.

df aus Wikipedia: "... Im Allgemeinen sind die Freiheitsgrade einer Schätzung eines Parameters gleich der Anzahl unabhängiger Scores, die in die Schätzung eingehen , abzüglich der Anzahl von Parametern, die als Zwischenschritte bei der Schätzung des Parameters selbst verwendet werden . "

Eivind
quelle
2
Dies ist nicht wirklich eine Ableitung als solche, obwohl es eine Intuition ist. Einige Feinheiten hierzu finden Sie unter Verstehen von Freiheitsgraden.
Silverfish