Vorhersageintervalle für das Ergebnis einer logistischen Regression mit binomialer Antwort

Angenommen, wir haben ein logistisches Regressionsmodell:

\begin{aligned} P (y = 1 | x) & = p \\ \log (\frac{p}{1 - p}) & = β x \end{aligned}

$\begin{align} P(y=1\vert\mathbf{x}) &= p \\ \log\left(\frac{p}{1-p}\right) &= \boldsymbol{\beta}\mathbf{x} \end{align}$

Bei einer Zufallsstichprobe $D=\{\mathbf{X},\mathbf{y}\}$ der Größe $N$ können wir Konfidenzintervalle für das $\boldsymbol{\beta}$ und entsprechend Vorhersageintervalle für $p$ bei einem bestimmten Wert berechnen $\mathbf{x}^*$ des Prädiktorvektors. Dies ist zum Beispiel hier alles sehr Standard und detailliert .

Angenommen, ich interessiere mich stattdessen für ein Vorhersageintervall für $y$ bei $\mathbf{x}^*$ . Natürlich macht es keinen Sinn , überhaupt eine Vorhersage zu berechnen Intervall für eine einzelne Realisierung von $y$ , weil $y$ nur die Werte 0 und 1, und keinen Wert dazwischen nehmen. Jedoch , wenn man bedenkt , $m$ Realisierungen von $y$ für den gleichen festen Wert von $\mathbf{x}^*$ , dann wird dies ähnlich (aber nicht identisch) auf die Frage für eine binomische Zufallsvariable einen Prädiktionsintervall Berechnung . Dies ist im Grunde die gleiche Situation, die Glen_b in den Kommentaren zu dieser Antwort beschrieben hat. Hat diese Frage eine Antwort, abgesehen von der trivialen Frage "Nichtparametrischen Bootstrap verwenden"?

logistic binomial prediction-interval DeltaIV
quelle

Können Sie stattdessen vielleicht ein Vorhersageintervall für

berechnen

l o g (p / (1 - p))

$log(p / (1-p))$ ?

Hugh Perkins

@ HughPerkins Ich denke, dass es darum geht, die Unsicherheit in p mit der Unsicherheit in der Binomial-Stichprobe zu kombinieren, auch angesichts der Unsicherheit in p . Gibt es eine geschlossene Lösung?

EdM

@EdM du hast meinen Standpunkt verstanden. Ich frage mich, ob es eine geschlossene Lösung oder eine analytische Annäherung gibt.

DeltaIV

[offtopic] zufällige Idee, es fällt mir ein, dass es interessant sein könnte, ein Tag wie "Open-Research-Gelegenheit" für Fragen wie diese zu haben, die / wenn sie negativ beantwortet werden

Hugh Perkins

Antworten:

Eine Möglichkeit, wie dies ohne Bootstrapping funktionieren sollte (was in der Praxis die schnellste Implementierung sein kann), wäre:

Angenommen, eine normale Näherung für die vorhergesagten Log-Quoten ( ) plus / minus des Standardfehlers funktioniert. Jede logistische Regressionssoftware bietet dies. $x \hat{\beta}$
Die Perzentile dieser Verteilung wandeln sich über das Anti-Logit in Wahrscheinlichkeiten um.
Man kann eine (Mischung aus) Beta-Verteilung (en) finden, die sich der Vorhersageverteilung für die Wahrscheinlichkeitsbohrung annähert.
Die prädiktive Verteilung für das Ergebnis ist dann eine (Mischung aus) Beta-Binomialverteilung (en mit den gleichen Mischgewichten wie in Schritt 3 verwendet).

Alternativ kann man die Log-Quoten "nur" aus der gemeinsamen Vorhersage von Ergebnis und Log-Odds integrieren, aber ich glaube, dass dies ein komplettes Durcheinander ohne geschlossene Lösung sein wird.

Björn
quelle

Sie können auch einfach direkt aus dem asymptotischen multivariaten Normal für simulieren und dann eine Mischung von Binomen über diesen Werten bilden.

β - \hat{β}

$\beta-\hat{\beta}$

Glen_b -State Monica

Ich mag die Gesamtidee, bin mir aber bei den Details nicht sicher. Beispiel: "Finden Sie eine (Mischung aus) Beta-Verteilung (en), die sich der Vorhersageverteilung für die Wahrscheinlichkeit gut annähert". Wie geht das in der Praxis? Könnten Sie ein Beispiel hinzufügen? Sogar eine niedrigdimensionale würde ausreichen.

DeltaIV

Ich kann dies als etwas in Form einer Antwort aufschreiben, wenn Sie es vorziehen - es macht mir auch nichts aus.

Glen_b -State Monica

@Glen_b Das würde ich wirklich schätzen.

DeltaIV

@Glen_b, ich würde mich für diese Antwort interessieren.

Richard Hardy