Verwirrung im Zusammenhang mit der Datennormalisierung

Ich versuche ein lineares Regressionsmodell zu lernen. Ich habe jedoch einige Verwirrung in Bezug auf die Normalisierung der Daten. Ich habe die Merkmale / Prädiktoren auf den Mittelwert Null und die Einheitsvarianz normalisiert. Muss ich dasselbe für das Ziel tun? Wenn ja warum?

regression multiple-regression normalization user34790
quelle

Warum haben Sie die Funktionen / Prädiktoren normalisiert?

Peter Flom - Reinstate Monica

Übrigens denke ich, dass "Standardisieren" ein besserer Begriff dafür ist.

Scortchi - Monica wieder einsetzen

Antworten:

Das Normalisieren des Ziels in linearer Regression spielt keine Rolle. In der linearen Regression, wird Ihr Sitz der Form Wenn Sie Prädiktoren zentriert sind, ist der konstante Term immer der Mittelwert von . Wenn Sie also das zentrieren, bevor Sie eine Regression ausführen, erhalten Sie nur , aber alle anderen Koeffizienten bleiben unverändert.

{\hat{y}}_{ich} = {ein}_{0} + ein \cdot x_{ich} .

$\hat{y}_i = a_0 + a \cdot x_i.$

x_{i}

$x_i$

a_{0}

$a_0$

y_{i}

$y_i$

y_{i}

$y_i$

a_{0} = 0

$a_0 = 0$

(Abgesehen davon ist es eine gute Idee, die Prädiktoren zu normalisieren - so wie Sie es gerade tun.)

Stefan Wager
quelle

Warum ist es eine gute Idee, die Prädiktoren zu normalisieren?

Scortchi - Monica wieder einsetzen

a_{0}

$a_0$

@Scortchi Das Normalisieren der Prädiktoren ist nicht erforderlich, kann jedoch die Interpretation der Koeffizienten aus der Regression erleichtern: Nach der Normalisierung entsprechen große Koeffizienten wichtigen Prädiktoren. Auch ohne Normalisierung können die Koeffizienten der Interaktionsterme ernsthaft irreführend sein. Die Normalisierung wirkt sich jedoch nicht auf die Vorhersagen aus, die Sie von Ihrem Modell erhalten. Daher ist die Normalisierung nur dann von Bedeutung, wenn Sie die Koeffizienten in der Regression interpretieren möchten.

Stefan Wager

@ user34790 Die Mathematik wird unter pmean.com/10/LeastSquares.html ausgearbeitet

Stefan Wager

Ich denke, theoretisch spielt es keine Rolle, aber numerisch spielt es eine Rolle. Schauen Sie sich diese Antwort an.

https://stats.stackexchange.com/a/111997/57240

Abhinav
quelle