Polynomregression im R-Quadrat und höherer Ordnung

Das folgende Diagramm zeigt die Sättigung einer Straße gegen die Auswirkungen auf die Fahrzeit (normalisiert auf die Fahrzeit im freien Fluss).

Die blaue Kurve (BPR-Funktion) zeigt ein standardisiertes Modell, das vor Ort verwendet wird, um Reisezeit und Sättigung in Beziehung zu setzen.

Für die empirischen Daten, die ich gesammelt habe, habe ich eine Polynomanpassung dritter Ordnung aufgezeichnet, die rot dargestellt ist. Um diese Anpassung zu beurteilen, habe ich das $R^2$ für diese Anpassung dritter Ordnung gefunden. Dies wurde mit 0,72 angegeben.

Ich habe mit einem Kollegen über und er hat mich auf diesen Artikel hingewiesen. Warum gibt es kein R-Quadrat für nichtlineare Regression? $R^2$

Ich habe viele Artikel gefunden, in denen verwendet wird, um die Anpassung eines Polynoms höherer Ordnung zu bewerten, und bin jetzt ziemlich verwirrt. $R^2$

Ist in diesem Fall unangemessen? Was soll ich stattdessen verwenden? $R^2$

regression chi-squared r-squared Langsam lernen
quelle

Die Polynomregression ist linear - es sind die Koeffizienten, die die Linearität des Modells bestimmen, nicht die Modellmatrix. Eigentlich überprüfen Sie diese fantastische Post . Ich denke, Sie sind auf dem richtigen Weg.

Antoni Parellada

Vielen Dank, dass Sie @AntoniParellada. Das sorgte für eine hervorragende Lektüre. Ich bin auch egoistisch froh, da ich einige Analysen nicht wiederholen muss;)

LearningSlowly

Antworten:

Betrachten Sie ein Polynom:

β_{0} + β_{1} x + β_{2} x^{2} + \dots + β_{k} x^{k}

$\beta_0 + \beta_1 x + \beta_2 x^2 + \ldots + \beta_k x^k$

Beachten Sie, dass das Polynom in nicht linear ist, in jedoch linear . Wenn wir versuchen, zu schätzen , ist dies eine lineare Regression! Linearität in ist was Angelegenheiten. Wenn die obige Gleichung durch kleinste Quadrate geschätzt wird, gelten alle Ergebnisse der linearen Regression. $x$ $\boldsymbol{\beta}$ $\boldsymbol{\beta}$

y_{i} = β_{0} + β_{1} x_{i} + β_{2} x_{i}^{2} + \dots + β_{k} x_{i}^{k} + ϵ_{i}

$y_i = \beta_0 + \beta_1 x_i + \beta_2 x_i^2 + \ldots + \beta_k x_i^k + \epsilon_i$

β = (β_{0}, β_{1}, \dots, β_{k})

$\boldsymbol{\beta} = (\beta_0, \beta_1, \ldots, \beta_k)$

Sei die Gesamtsumme der Quadrate, die erklärte Summe der Quadrate und die Restsumme der Quadrate. Der Bestimmungskoeffizient $\mathit{SST}$ $\mathit{SSE}$ $\mathit{SSR}$ $R^2$

R^{2} = 1 - \frac{S S R}{S S T}

$R^2 = 1 - \frac{\mathit{SSR}}{\mathit{SST}}$

$\mathit{SST} = \mathit{SSE} + \mathit{SSR}$ $R^2$

SST = SSE + SSR: Wann ist es wahr und wann ist es nicht wahr?

$\hat{y}_i$ $y_i$ $e_i = y_i - \hat{y}_i$ $f_i = \hat{y}_i - \bar{y}$

$\langle ., . \rangle$

\begin{aligned} ⟨ f + e, f + e ⟩ & = ⟨ f, f ⟩ + 2 ⟨ f, e ⟩ + ⟨ e, e ⟩ \\ = ⟨ f, f ⟩ + ⟨ e, e ⟩ if f and e orthogonal, i.e. their inner product is 0 \end{aligned}

$\begin{align*} \langle \mathbf{f} + \mathbf{e}, \mathbf{f} + \mathbf{e} \rangle &= \langle \mathbf{f}, \mathbf{f} \rangle + 2\langle \mathbf{f}, \mathbf{e} \rangle + \langle \mathbf{e}, \mathbf{e} \rangle \\ &= \langle \mathbf{f}, \mathbf{f} \rangle + \langle \mathbf{e}, \mathbf{e} \rangle \quad \quad\text{if $\mathbf{f}$ and $\mathbf{e}$ orthogonal, i.e. their inner product is 0} \end{align*}$

⟨ a, b ⟩ = \sum_{i} a_{i} b_{i}

$\langle \mathbf{a}, \mathbf{b} \rangle = \sum_i a_i b_i$

$\langle \mathbf{f} + \mathbf{e}, \mathbf{f} + \mathbf{e} \rangle = \sum_i \left(y_i - \bar{y} \right)^2$
$\langle \mathbf{f}, \mathbf{f} \rangle = \sum_i \left(\hat{y}_i - \bar{y} \right)^2$
$\langle \mathbf{e}, \mathbf{e} \rangle = \sum_i \left(y_i - \hat{y}_i \right)^2$

$SST = SSE + SSR$ $\mathbf{f}$ $\mathbf{e}$ $\mathbf{y}$ $\hat{y}_i$

Matthew Gunn
quelle