Auswahl zwischen nicht informativen Beta-Priors

Ich suche nach nicht informativen Prioritäten für die Betaverteilung, um mit einem Binomialprozess (Hit / Miss) arbeiten zu können. Zuerst dachte ich über die Verwendung von , die ein einheitliches PDF erzeugen, oder Jeffrey vor . Aber ich suche tatsächlich nach Priors, die die posterioren Ergebnisse am wenigsten beeinflussen, und habe dann darüber nachgedacht, ein falsches Vorzeichen von . Das Problem hierbei ist, dass meine hintere Verteilung nur funktioniert, wenn ich mindestens einen Treffer und einen Fehler habe. Um dies zu überwinden ich wie dann dachte über eine sehr kleine Konstante verwendet, , nur um sicherzustellen , dass hinteren und wird . $\alpha=1, \beta=1$ $\alpha=0.5, \beta=0.5$ $\alpha=0, \beta=0$ $\alpha=0.0001, \beta=0.0001$ $\alpha$ $\beta$ $>0$

Weiß jemand, ob dieser Ansatz akzeptabel ist? Ich sehe numerische Effekte, wenn ich diese Prioritäten ändere, aber jemand könnte mir eine Art Interpretation geben, wie man kleine Konstanten wie diese als Prioritäten setzt?

bayesian prior beta-distribution uninformative-prior Mateus
quelle

Bei großen Samples mit vielen Hits und Misses spielt dies keine Rolle. Bei kleinen Samples macht es einen großen Unterschied, besonders wenn es nicht mindestens einen Treffer und einen Fehler gibt. Sogar die Größe Ihrer "sehr kleinen Konstante" kann einen erheblichen Einfluss haben. Ich würde das Schlüssel Gedankenexperiment vorschlägt für Sie sein könnten , welche Art von posterior Sinne nach einer Probengröße von machen

: Das könnte man davon überzeugen , dass so etwas wie der Jeffrey s vor angemessen

1

$1$

Henry

Und es gibt eine Zeitung, die Kerman vorschlägt, 1/3 & 1/3, b

Björn,

Was meinen Sie mit "minimaler Auswirkung auf das hintere Ergebnis"? Verglichen mit was?

Wird

Ich habe die Formatierung und den Titel Ihrer Frage verbessert. Sie können die Änderungen jederzeit rückgängig machen oder ändern.

Tim

Antworten:

Erstens gibt es keinen uninformativen Prior . Unten sehen Sie die posterioren Verteilungen, die sich aus fünf verschiedenen "nicht informativen" Priors (unten beschrieben) mit unterschiedlichen Daten ergeben. Wie Sie deutlich sehen, wirkte sich die Auswahl "nicht informativer " Prioritäten auf die posteriore Verteilung aus, insbesondere in Fällen, in denen die Daten selbst nicht viele Informationen lieferten .

$\alpha = \beta$ $\alpha \le 1, \beta \le 1$ $\alpha = \beta = 1$ $\alpha = \beta = 1/2$ $\alpha = \beta = 1/3$ $\alpha = \beta = 0$ $\alpha = \beta = \varepsilon$ $\varepsilon > 0$

$\alpha$ $\beta$ $y$ $n$

θ ∣ y \sim B (α + y, β + n - y)

$\theta \mid y \sim \mathcal{B}(\alpha + y, \beta + n - y)$

$\alpha,\beta$ $\alpha=\beta=1$ $n$

Auf den ersten Blick scheint Haldane Prior der "uninformativste" zu sein, da er zum posterioren Mittelwert führt, der genau der Maximum-Likelihood-Schätzung entspricht

\frac{α + y}{α + y + β + n - y} = y / n

$\frac{\alpha + y}{\alpha + y + \beta + n - y} = y / n$

$y=0$ $y=n$

Es gibt eine Reihe von Argumenten für und gegen die "nicht informativen" Prioritäten (siehe Kerman, 2011; Tuyl et al., 2008). Zum Beispiel, wie von Tuyl et al. Diskutiert,

$1$ $0$ $1$

Andererseits kann die Verwendung einheitlicher Prioritäten für kleine Datensätze sehr einflussreich sein (in Bezug auf Pseudozahlen). Weitere Informationen und Diskussionen zu diesem Thema finden Sie in mehreren Artikeln und Handbüchern.

Tut mir leid, aber es gibt keine einzigen "besten", "uninformativsten" oder "One-Size-Fitts-All" -Prioren. Jeder von ihnen bringt einige Informationen in das Modell.

Kerman, J. (2011). Neutrale nicht informative und informative konjugierte Beta und Gamma-Prior-Verteilungen. Electronic Journal of Statistics, 5, 1450-1470.

Tuyl, F., Gerlach, R. und Mengersen, K. (2008). Ein Vergleich von Bayes-Laplace, Jeffreys und anderen Priors. The American Statistician, 62 (1): 40-44.

Tim
quelle