In einer Einführung in das statistische Lernen (James et al.) In Abschnitt 3.7, Übung 5, heißt es, dass die Formel für Annahme einer linearen Regression ohne Achsenabschnitt lautet wobei und sind die unter OLS üblichen Schätzungen für einfache lineare Regression ( ).& bgr;0=ˉy-β1ˉxβ1=Sxy
Sxy= n ≤ i=1(xi- ≤ x )(yi- ≤ y )
Dies ist nicht die eigentliche Übung ; Ich frage mich nur, wie ich die Gleichung ableiten soll. Wie leite ich es ab, ohne Matrixalgebra zu verwenden ?
Mein Versuch: Mit haben wir . β 1= ˉ y
Nach einiger Algebra kann gezeigt werden, dass und . Von hier stecke ich fest. S x x = n ∑ i = 1 x 2 i - n ˉ x 2
self-study
least-squares
Klarinettist
quelle
quelle
Antworten:
Dies ergibt sich aus der Definition der gewöhnlichen kleinsten Quadrate. Wenn es keinen Achsenabschnitt gibt, minimiert man . Dies ist in Abhängigkeit von glatt , sodass alle Minima (oder Maxima) auftreten, wenn die Ableitung Null ist. wir in Bezug auf differenzieren, erhalten wir . Das Auflösen nach ergibt die Formel. β β - ∑ i = n i = 1 2 ( y i - β x i ) x i βR ( β) = ∑i = ni = 1( yich- βxich)2 β β - ∑i = ni = 12 ( yich- βxich) xich β
quelle