Müssen Sie das Wahrscheinlichkeitsprinzip einhalten, um Bayesianer zu sein?

Diese Frage ergibt sich aus der Frage: Wann (wenn überhaupt) ist ein frequentistischer Ansatz wesentlich besser als ein bayesianischer?

Wie ich in meiner Lösung zu dieser Frage geschrieben habe, müssen Sie meiner Meinung nach, wenn Sie ein Frequentist sind, nicht an das Wahrscheinlichkeitsprinzip glauben / sich daran halten, da die Methoden von Zeit-Frequentisten häufig dagegen verstoßen. Bayesianische Methoden verletzen jedoch niemals das Likelihood-Prinzip, und dies wird normalerweise unter der Annahme korrekter Prioritäten angenommen.

Zu sagen, dass Sie ein Bayesianer sind, bestätigt dies den Glauben oder die Übereinstimmung mit dem Wahrscheinlichkeitsprinzip, oder hat das Argument, ein Bayesianer zu sein, nur die schöne Konsequenz, dass das Wahrscheinlichkeitsprinzip nicht verletzt wird?

bayesian likelihood likelihood-principle RustyStatistician
quelle

Nein - siehe die Jeffreys vor. Bayesianische Methoden können das (starke) Wahrscheinlichkeitsprinzip verletzen.

Scortchi

Ja, in der Tat, Jeffreys Prioritäten und auch Lösungen, die die Daten mehrmals wie posteriore Vorhersagen verwenden, verstoßen gegen das Wahrscheinlichkeitsprinzip, können aber dennoch als bayesianisch angesehen werden ...

Xi'an

Nicht unbedingt. Und ich bin mir nicht sicher, welchen Unterschied es macht.

Scortchi

Vergleichen Sie diese für das Binomial und das negative Binomial.

Scortchi

xianblog.wordpress.com/2014/11/13/…

Scortchi - Monica wieder einsetzen

Antworten:

Bei der Verwendung des Bayes-Theorems zur Berechnung der posterioren Wahrscheinlichkeiten, die Rückschlüsse auf Modellparameter zulassen, wird das Prinzip der schwachen Wahrscheinlichkeit automatisch eingehalten:

p o s t e r i o r \propto p r i o r \times l i k e l i h o o d

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

Bei einigen objektiven Bayes'schen Ansätzen bestimmt das Stichprobenverfahren jedoch die Wahl der Prioritäten, wobei die Motivation darin besteht, dass eine nicht informative Prioritätsverteilung die Divergenz zwischen der Prioritäts- und der Posteriorverteilung maximiert und die Daten so weit wie möglich beeinflusst. Sie verstoßen damit gegen das Prinzip der starken Wahrscheinlichkeit.

Jeffreys Priors sind zum Beispiel proportional zur Quadratwurzel der Determinante der Fisher-Information, einer Erwartung über den Probenraum. Betrachten Sie die Schlussfolgerung über den Wahrscheinlichkeitsparameter von Bernoulli-Versuchen unter Binomial- und Negativ-Binomial-Sampling. Die Jeffreys Prioren sind $\pi$

\begin{aligned} \Pr_{N B} (π) & \propto π^{- 1} (1 - π)^{- \frac{1}{2}} \\ \Pr_{B i n} (π) & \propto π^{- \frac{1}{2}} (1 - π)^{- \frac{1}{2}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

& Die Konditionierung auf Erfolge aus Versuchen führt zu den posterioren Verteilungen $x$ $n$

\begin{aligned} \Pr_{N B} (π ∣ x, n) \sim B e t a (x, n - x + \frac{1}{2}) \\ \Pr_{B i n} (π ∣ x, n) \sim B e t a (x + \frac{1}{2}, n - x + \frac{1}{2}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

Wenn Sie also sagen, dass 1 Erfolg aus 10 Studien zu einer sehr unterschiedlichen posterioren Verteilung unter den beiden Stichprobenschemata führen würde:

$\pi^{-1+c} (1-\pi)^{-1/2}$ $0 < c\ll 1$

Sie könnten auch erwägen, das Modell zu überprüfen - oder etwas als Ergebnis Ihrer Überprüfungen zu tun -, was dem Prinzip der schwachen Wahrscheinlichkeit zuwiderläuft. ein eklatanter Fall der Verwendung des zusätzlichen Teils der Daten.

Scortchi - Wiedereinsetzung von Monica
quelle