Haben Sie ein Konjugat vor: Tiefes Eigentum oder mathematischer Unfall?

Einige Distributionen haben konjugierte Prioritäten, andere nicht. Ist diese Unterscheidung nur ein Unfall? Das heißt, Sie rechnen nach, und es funktioniert auf die eine oder andere Weise, aber es sagt Ihnen nichts wirklich Wichtiges über die Verteilung aus, außer der Tatsache selbst?

Oder spiegelt die Anwesenheit oder Abwesenheit eines konjugierten Vorgängers eine tiefere Eigenschaft einer Verteilung wider? Haben Verteilungen mit konjugierten Prioritäten eine andere interessante Eigenschaft oder Eigenschaften gemeinsam, die anderen Verteilungen fehlen und die dazu führen, dass diese Verteilungen und nicht die anderen eine konjugierte Priorität haben?

Es ist kein Zufall. Hier finden Sie eine kurze, sehr schöne Rezension über konjugierte Priors. Konkret wird erwähnt, dass Sie, wenn für die gegebene Wahrscheinlichkeitsfunktion eine Reihe ausreichender Statistiken mit fester Dimension vorhanden ist, ein vorheriges Konjugat erstellen können. Wenn Sie über ausreichende Statistiken verfügen, können Sie die Wahrscheinlichkeit in einer Form faktorisieren, mit der Sie die Parameter rechnerisch effizient abschätzen können.

Außerdem ist es mit konjugierten Prioren nicht nur rechnerisch bequem. Es sorgt auch für eine Glättung und ermöglicht das Arbeiten mit sehr wenigen oder gar keinen vorherigen Proben, was für Probleme wie Entscheidungsfindung erforderlich ist, wenn Sie nur sehr wenige Beweise haben.

Ich bin sehr neu in der Bayes'schen Statistik, aber es scheint mir, dass alle diese Verteilungen (und wenn nicht alle, dann zumindest diejenigen, die nützlich sind) die Eigenschaft haben, dass sie durch eine eingeschränkte Metrik über die Beobachtungen, die sie definieren, beschrieben werden . Dh für eine normale Verteilung müssen Sie nicht jedes Detail über jede Beobachtung kennen, nur die Gesamtzahl und die Summe.

Anders ausgedrückt, wenn Sie die Klasse / Familie der Verteilung bereits kennen, weist die Verteilung eine streng niedrigere Informationsentropie auf als die Beobachtungen, die zu ihr geführt haben.

Scheint das trivial, oder ist es das, wonach Sie suchen?

Welche Eigenschaften "tief" sind, ist ein sehr subjektives Problem! Die Antwort hängt also von Ihrem Konzept von "tief" ab. Aber wenn es in gewissem Sinne eine "tiefe" Eigenschaft ist, konjugierte Prioritäten zu haben, dann ist dieser Sinn mathematisch und nicht statistisch. Der einzige Grund, warum (einige) Statistiker an konjugierten Priors interessiert sind, ist, dass sie einige Berechnungen vereinfachen. Aber das ist weniger wichtig für jeden Tag, der vergeht!

 EDIT

$h$$[0,1]$$f(p;\alpha,\beta)$$h(p)f(p;\alpha,\beta)$

$\text{prior}\times\text{likelihood}$frühere Dateninterpretationen zu den Parametern in den (üblichen) aufgeführten Konjugatfamilien.

Zusammenfassend können die üblichen konjugierten Familien in Exponentialfamilien als Prioritäten, die zu linearen Methoden führen, oder als Prioritäten, die aus der Darstellung früherer Daten stammen, gerechtfertigt werden. Hoffe diese erweiterte Antwort hilft!