Berücksichtigung diskreter oder binärer Parameter im Bayes'schen Informationskriterium

9

BIC bestraft basierend auf der Anzahl der Parameter. Was ist, wenn einige der Parameter binäre Indikatorvariablen sind? Zählen diese als vollständige Parameter? Aber ich kann Binärparameter zu einer diskreten Variablen kombinieren , die Werte in annimmt . Sollen diese als Parameter oder als ein Parameter gezählt werden?{ 0 , 1 , . . . , 2 m - 1 } mm{0,1,...,2m−1}m

bayesian model-selection bic parameterization grosse Bandbreite
quelle

Antworten:

3

Teilweise aufgrund dieser Ungenauigkeit in der "Anzahl der Parameter" in BIC führte DIC (das Abweichungsinformationskriterium ) eine effektive Anzahl von Parametern ein als wobei und Beachten Sie, dass dann datenabhängig ist. (Wie bereits erwähnt gibt die DIC auch eigene Probleme hat!)

pD(x)=E[D(θ)|x]−D(E[θ|x])
D(θ)=−2log⁡f(x|θ)
DIC(x)=pD(x)+E[D(θ)|x]
pD(x)
Xi'an
quelle
Ich bin also etwas verwirrt. Ich dachte, BIC sei eine Näherung von , die aus der MCMC berechnet werden kann Simulationen. Warum sollten wir dann den DIC berechnen? E[logP(y|Model)]=log⁡(∫P(y|θ)Pmodel(θ)dθ)
HighBandWidth
1
Ja, BIC ist eine Annäherung an die Grenzwahrscheinlichkeit. Es ist jedoch nur eine Annäherung, die zur "Wahrheit" konvergiert, wenn die Stichprobengröße bis unendlich wächst. Es ist daher nicht direkt Bayesianisch (verwendet zum einen nicht den Prior!) Und steht in keiner Beziehung zu MCMC (wo die Approximation vom Typ Monte Carlo ist: Wenn ich die Anzahl der Simulationen erhöhe, verbessert sich die Approximation). DIC wird von vielen (einschließlich B. Carlin und D. Spiegelhatler) als Bayesianer angesehen
Xi'an
Ich denke meine Frage war, ist der DIC auch eine Annäherung an die marginale Modellwahrscheinlichkeit? Ich denke, ich sollte selbst darüber lesen, aber da wir darüber diskutierten, dachte ich, dies zu erklären würde die Antwort vollständiger machen. Vielen Dank!
HighBandWidth