Ich versuche, ein hierarchisches Modell mit jags und dem Paket rjags anzupassen. Meine Ergebnisvariable ist y, eine Folge von Bernoulli-Versuchen. Ich habe 38 menschliche Probanden, die in zwei Kategorien auftreten: P und M. Nach meiner Analyse hat jeder Sprecher eine Erfolgswahrscheinlichkeit in der Kategorie P von und eine Erfolgswahrscheinlichkeit in der Kategorie M von . Ich gehe auch davon aus, dass es auf Community-Ebene Hyperparameter für P und M gibt: und .θ p × θ m μ p
Also für jeden Sprecher: und \ theta_m \ sim beta (\ mu_m \ times \ kappa_m, (1- \ mu_m) \ times \ kappa_m) wobei \ kappa_p und \ kappa_m steuern, wie hoch die Verteilung um \ mu_p und \ mu_m ist .θ m ~ b e t ein ( μ m × κ m , ( 1 - μ m ) × κ m ) κ p κ m μ p
Auch , .
Hier ist mein Zackenmodell:
model{
## y = N bernoulli trials
## Each speaker has a theta value for each category
for(i in 1:length(y)){
y[i] ~ dbern( theta[ speaker[i],category[i]])
}
## Category P has theta Ptheta
## Category M has theta Ptheta * Mtheta
## No observed data for pure Mtheta
##
## Kp and Km represent how similar speakers are to each other
## for Ptheta and Mtheta
for(j in 1:max(speaker)){
theta[j,1] ~ dbeta(Pmu*Kp, (1-Pmu)*Kp)
catM[j] ~ dbeta(Mmu*Km, (1-Mmu)*Km)
theta[j,2] <- theta[j,1] * catM[j]
}
## Priors for Pmu and Mmu
Pmu ~ dbeta(Ap,Bp)
Mmu ~ dbeta(Am,Bm)
## Priors for Kp and Km
Kp ~ dgamma(1,1/50)
Km ~ dgamma(1,1/50)
## Hyperpriors for Pmu and Mmu
Ap ~ dgamma(1,1/50)
Bp ~ dgamma(1,1/50)
Am ~ dgamma(1,1/50)
Bm ~ dgamma(1,1/50)
}
Das Problem, das ich habe, ist, dass ich, wenn ich dieses Modell mit 5000 Iterationen zum Anpassen ausführe, dann 1000 Proben nehme Mmu
und Km
zu einzelnen Werten konvergiere. Ich habe es mit 4 Ketten ausgeführt, und jede Kette hat nicht den gleichen Wert, aber in jeder Kette gibt es nur einen einzelnen Wert.
Ich bin ziemlich neu darin, hierarchische Modelle mit MCMC-Methoden anzupassen, daher frage ich mich, wie schlimm das ist. Soll ich das als Zeichen dafür nehmen, dass dieses Modell hoffnungslos passt, dass etwas mit meinen Vorgesetzten nicht stimmt, oder ist es das Gleiche für den Kurs?
Bearbeiten: Falls es darauf ankommt, war der Wert für es konvergierte (gemittelt über Ketten), 0,91 und war 1,78
quelle
Antworten:
Dies ist eher ein Kommentar, aber da ich nicht genug Ansehen habe, könnte ich auch antworten.
Aufgrund meiner begrenzten Erfahrung mit MCMC-Samplern habe ich festgestellt, dass die Parameter tendenziell konstant bleiben, wenn die Hyperparameter zu eng sind. Da sie die Verteilung der Parameter steuern, verhindern sie, dass der Lösungsraum effizient abgetastet wird.
Versuchen Sie, größere Werte für die Hyperparameter zu verwenden, um zu sehen, was passiert.
Dieses technische Dokument hat mir sehr geholfen, die MCMC-Sampler zu verstehen. Es besteht aus zwei Samplern, Gibbs (den von Ihnen verwendeten) und Hybrid Monte Carlo, und erklärt schnell, wie Sie Prioritäten, Hyperprioritäten und Werte für die Parameter und Hyperparameter auswählen.
quelle
Dies könnte ein Problem der Kettenstruktur sein. Wo Sie landen, hängt davon ab, wo Sie anfangen. Um MCMC zu verwenden, soll die Kette wiederkehrend sein, was bedeutet, dass Sie, egal wo Sie beginnen, zu jedem anderen Zustand im Zustandsraum gelangen können. Wenn die Kette nicht wiederkehrend ist, können Sie in einer Teilmenge des Zustandsraums gefangen sein. Die Idee von MCMC besteht darin, dass eine stationäre Verteilung vorhanden ist, in der die Kette schließlich abgewickelt wird. Bei dieser stationären Verteilung besteht normalerweise eine positive Wahrscheinlichkeit, dass sie sich in einem der Zustände in der Kette befindet und nicht an einem einzelnen Punkt eingeschlossen wird, wie Sie beschrieben haben . Ich kann Ihren Algorithmus nicht überprüfen, aber vielleicht haben Sie einen Fehler. Es ist auch möglich, dass Sie ein Problem definiert haben, bei dem Ihre Markov-Kette nicht wiederholt auftritt.
Wenn Sie sich mit MCMC auskennen möchten, empfehlen wir Ihnen einen Blick in das Handbuch von Markov Chain Monte Carlo mit Artikeln, die alle Aspekte von MCMC beschreiben. Es wurde von CRC Press im Jahr 2011 veröffentlicht.
quelle