Woher können konjugierte Priors neben der exponentiellen Familie noch kommen?

8

Müssen alle konjugierten Prioren aus der exponentiellen Familie stammen? Wenn nicht, welche anderen Familien haben / produzieren konjugierte Priors?

Josh
quelle

Antworten:

9

Wie zum Beispiel in Abschnitt 3.3.3 des Buches "The Bayesian Choice" von Christian Robert erläutert, besteht zwar ein enger Zusammenhang zwischen Exponentialfamilien und konjugierten Priors, für bestimmte nicht exponentielle Familien stehen jedoch konjugierte Priors zur Verfügung. Er nennt diese jedoch "quasi-exponentiell", da es sich um Familien handelt, für die ausreichende Statistiken der endlichen Dimension existieren, die mit der Stichprobengröße nicht zunehmen.

Hier ist ein Beispiel für die Gleichverteilung, deren Unterstützung vom Parameter der Verteilung abhängt und daher keine exponentielle Familie sein kann (bekanntlich):

Hier ist die Pareto-Verteilung ein Konjugat vor dem Parameter der Gleichverteilung auf .[ 0 , b ]b[0,b]

Die Dichte der Pareto-Verteilung mit den Parametern und ist für und sonst.α > 0 f ( x ) = α c α x - α - 1 x c f ( x ) = 0c>0α>0

f(x)=αcαxα1
xcf(x)=0

Der Prior des Parameters einer Gleichverteilung auf ist eine Pareto-Verteilung mit und , Die Wahrscheinlichkeit für die Daten , gegeben mit , ist [ 0 , b ] c 0 α 0 π ( b )b[0,b]c0α0y1,,ynbf(y|b)={ n i = 1 1

π(b)={α0c0α0bα01if bc00else.{bα01if bc00else.
y1,,ynbπ ( b | y )
f(y|b)={i=1n1b=bnif 0yib for all i=1,,n0else.
Das Produkt aus Wahrscheinlichkeit und Prior ist der nicht normalisierte Posterior α1
π(b|y)π(b)f(y|b)={α0c0α0bα01bnif bc0 and 0yib for all i=1,,n0else.{bα0n1if bc0 and 0yib for all i=1,,n0else.{bα11if bc10else.
mit
α1=α0+nc1=max(maxiyi,c0).
Daher ist der hintere Teil Pareto verteilt.
Christoph Hanck
quelle
2
(+1) Wenn es also eine ausreichende Statistik mit konstanter Dimension gibt, gibt es ein konjugiertes Prior?
Scortchi - Monica wieder einsetzen
2
Sehr interessante Frage - ich weiß es nicht! Meine Antwort liefert nur ein Beispiel dafür, dass die Zugehörigkeit zu einer exponentiellen Familie keine notwendige Voraussetzung für die Existenz eines konjugierten Prior ist. Die Antwort würde mich sehr interessieren, bitte stellen Sie dies als separate Frage!
Christoph Hanck
1
Ich habe das Gefühl, dass es so sein muss, damit das Update funktioniert. Ich werde auf jeden Fall eine Frage stellen, wenn ich keine Buchantwort finde.
Scortchi - Monica wieder einsetzen
1
@Scortchi: ja in der Tat, denn wenn es eine ausreichende statistische fester Dimension existiert dann sind wir in einer exponentiellen Familie, wie von der etablierten Pitman-Koopman-Darmois Lemma.
Xi'an
1
Lässt dies nicht das Qualifikationsmerkmal aus: "Unter allen Familien, deren Unterstützung nicht vom Parameter abhängt", siehe auch das obige Beispiel?
Christoph Hanck