Potenzierter logistischer Regressionskoeffizient, der sich vom Odds Ratio unterscheidet

Nach meinem Verständnis ist der potenzierte Beta-Wert aus einer logistischen Regression das Odds Ratio dieser Variablen für die abhängige interessierende Variable. Der Wert stimmt jedoch nicht mit dem manuell berechneten Quotenverhältnis überein. Mein Modell prognostiziert Stunting (ein Maß für Unterernährung) unter anderem anhand von Versicherungen.

// Odds ratio from LR, being done in stata
logit stunting insurance age ... etc. 
or_insurance = exp(beta_value_insurance)

// Odds ratio, manually calculated
odds_stunted_insured = num_stunted_ins/num_not_stunted_ins
odds_stunted_unins = num_stunted_unins/num_not_stunted_unins
odds_ratio = odds_stunted_ins/odds_stunted_unins

Was ist der konzeptionelle Grund dafür, dass diese Werte unterschiedlich sind? Kontrolle über andere Faktoren in der Regression? Ich möchte nur die Diskrepanz erklären können.

Wenn Sie nur diesen einzelnen Prädiktor in das Modell einfügen, entspricht das Quotenverhältnis zwischen dem Prädiktor und der Antwort genau dem potenzierten Regressionskoeffizienten . Ich denke nicht, dass eine Ableitung dieses Ergebnisses auf der Website vorhanden ist, daher werde ich diese Gelegenheit nutzen, um es bereitzustellen.

---

Betrachten Sie ein binäres Ergebnis und einen einzelnen binären Prädiktor :$Y$$X$

$$\begin{array}{c|cc} \phantom{} & Y = 1 & Y = 0 \\ \hline X=1 & p_{11} & p_{10} \\ X=0 & p_{01} & p_{00} \\ \end{array}$$

Dann wird ein Weg , die Vorteile Verhältnis zwischen berechnen und ist$X_i$$Y_i$

$${\rm OR} = \frac{ p_{11} p_{00} }{p_{01} p_{10}}$$

Durch Definition der bedingten Wahrscheinlichkeit ist . Im Verhältnis heben sich die Grenzwahrscheinlichkeiten, an denen das , auf, und Sie können das Quotenverhältnis in Bezug auf die bedingten Wahrscheinlichkeiten von umschreiben :$p_{ij} = P(Y = i | X = j) \cdot P(X = j)$$X$$Y|X$

$${\rm OR} = \frac{ P(Y = 1| X = 1) }{P(Y = 0 | X = 1)} \cdot \frac{ P(Y = 0 | X = 0) }{ P(Y = 1 | X = 0)}$$

In der logistischen Regression modellieren Sie diese Wahrscheinlichkeiten direkt:

$$\log \left( \frac{ P(Y_i = 1|X_i) }{ P(Y_i = 0|X_i) } \right) = \beta_0 + \beta_1 X_i$$

Wir können diese bedingten Wahrscheinlichkeiten also direkt aus dem Modell berechnen. Das erste Verhältnis im obigen Ausdruck für ist:${\rm OR}$

$$\frac{ P(Y_i = 1| X_i = 1) }{P(Y_i = 0 | X_i = 1)} = \frac{ \left( \frac{1}{1 + e^{-(\beta_0+\beta_1)}} \right) } {\left( \frac{e^{-(\beta_0+\beta_1)}}{1 + e^{-(\beta_0+\beta_1)}}\right)} = \frac{1}{e^{-(\beta_0+\beta_1)}} = e^{(\beta_0+\beta_1)}$$

und der zweite ist:

$$\frac{ P(Y_i = 0| X_i = 0) }{P(Y_i = 1 | X_i = 0)} = \frac{ \left( \frac{e^{-\beta_0}}{1 + e^{-\beta_0}} \right) } { \left( \frac{1}{1 + e^{-\beta_0}} \right) } = e^{-\beta_0}$$

Wenn wir dies wieder in die Formel einfügen, haben wir , was das Ergebnis ist.${\rm OR} = e^{(\beta_0+\beta_1)} \cdot e^{-\beta_0} = e^{\beta_1}$

Hinweis: Wenn Sie andere Prädiktoren haben, nennen Sie diese im Modell Der potenzierte Regressionskoeffizient (unter Verwendung einer ähnlichen Ableitung) ist tatsächlich$Z_1, ..., Z_p$

$$\frac{ P(Y = 1| X = 1, Z_1, ..., Z_p) }{P(Y = 0 | X = 1, Z_1, ..., Z_p)} \cdot \frac{ P(Y = 0 | X = 0, Z_1, ..., Z_p) }{ P(Y = 1 | X = 0, Z_1, ..., Z_p)}$$

Es ist also das Odds Ratio , das von den Werten der anderen Prädiktoren im Modell abhängig ist und im Allgemeinen nicht gleich ist

$$\frac{ P(Y = 1| X = 1) }{P(Y = 0 | X = 1)} \cdot \frac{ P(Y = 0 | X = 0) }{ P(Y = 1 | X = 0)}$$

Es ist also keine Überraschung, dass Sie eine Diskrepanz zwischen dem potenzierten Koeffizienten und dem beobachteten Quotenverhältnis beobachten.

Anmerkung 2: Ich habe eine Beziehung zwischen dem wahren und dem wahren Quotenverhältnis abgeleitet, aber beachte, dass dieselbe Beziehung für die Stichprobenmengen gilt, da die angepasste logistische Regression mit einem einzelnen binären Prädiktor die Einträge eines Zwei-mal-Zwei genau reproduziert Tabelle. Das heißt, die angepassten Mittel stimmen genau mit den Probenmitteln überein, wie bei jedem GLM. Daher gilt die gesamte oben verwendete Logik, wobei die wahren Werte durch Stichprobenmengen ersetzt werden. $\beta$

Sie haben eine wirklich nette Antwort von @Macro (+1), der darauf hingewiesen hat, dass das einfache (marginale) Quotenverhältnis ohne Bezugnahme auf ein Modell berechnet wurde und das Quotenverhältnis einem multiplen logistischen Regressionsmodell ( entnommen wurde. ) sind im Allgemeinen nicht gleich. Ich frage mich, ob ich hier noch ein paar verwandte Informationen einbringen kann, insbesondere zu erklären, wann sie gleich sein werden und wann nicht. $\exp(\beta)$

Beta-Werte in der logistischen Regression geben wie in der OLS-Regression die Änderung des ceteris paribus in dem Parameter an, der die Antwortverteilung regelt, die mit einer Änderung der Kovariate um 1 Einheit verbunden ist. (Für die logistische Regression ist dies eine Änderung des Logits der Erfolgswahrscheinlichkeit, während es für die OLS-Regression der Mittelwert ist, .) Das heißt, es ist die Änderung, bei der alle anderen gleich sind . Potenzierte Betas sind ähnlich ceteris paribus Odds Ratios. Das erste Problem ist daher, sicherzustellen, dass dies sinnvoll sein kann. Insbesondere sollte die fragliche Kovariate an keiner anderen Stelle im Modell existieren (z. B. in einer Interaktion oder einem Polynomterm). (Beachten Sie, dass ich mich hier auf Begriffe beziehe, die enthalten sind$\mu$In Ihrem Modell gibt es jedoch auch Probleme, wenn die wahre Beziehung zwischen den Ebenen einer anderen Kovariate variiert, aber beispielsweise kein Interaktionsterm enthalten war.) Sobald wir festgestellt haben, dass es sinnvoll ist, ein Odds Ratio durch Exponentiierung eines Beta aus a zu berechnen Im logistischen Regressionsmodell können wir die Frage stellen, wann sich die modellbasierten und marginalen Quotenverhältnisse unterscheiden und welche sollten Sie bevorzugen, wenn sie es tun?

Der Grund, warum sich diese ORs unterscheiden, liegt darin, dass die anderen in Ihrem Modell enthaltenen Kovariaten nicht orthogonal zu der betreffenden sind. Sie können dies beispielsweise überprüfen, indem Sie eine einfache Korrelation zwischen Ihren Kovariaten ausführen (es spielt keine Rolle, wie die p-Werte sind, oder wenn Ihre Kovariaten statt stetig sind, ist der Punkt einfach ). Wenn andererseits alle Ihre anderen Kovariaten orthogonal zu der fraglichen sind, entspricht dem marginalen OR. r ≠ 0 exp ( β $0/1$$r\ne0$$\exp(\beta)$

Wenn sich der marginale OP und der modellbasierte OP unterscheiden, sollten Sie die modellbasierte Version verwenden / interpretieren. Der Grund ist, dass der marginale OP die Verwirrung unter Ihren Kovariaten nicht berücksichtigt, wohingegen das Modell dies tut. Dieses Phänomen hängt mit Simpsons Paradoxon zusammen , über das Sie vielleicht lesen möchten (SEP hat auch einen guten Eintrag , hier gibt es eine Diskussion zum Lebenslauf: Basic-simpson's-paradox , und Sie können nach dem simpsons-paradox- Tag des Lebenslaufs suchen ). Der Einfachheit und Zweckmäßigkeit halber möchten Sie möglicherweise nur das modellbasierte ODER verwenden, da es entweder eindeutig vorzuziehen ist oder dasselbe.