Der Gibbs-Sampler ist eine einfache Form der Markov-Ketten-Monte-Carlo-Simulation, die in der Bayes'schen Statistik weit verbreitet ist und auf Stichproben aus vollständigen bedingten Verteilungen für jede Variable oder Gruppe von Variablen basiert. Der Name stammt von der Methode, die erstmals von Giban und Geman (1984) für die Gibbs-Zufallsfeldmodellierung von Bildern verwendet wurde.
Ich werde eine Umgebung im BUGS-Stil ausprobieren, um Bayes'sche Modelle zu schätzen. Gibt es wichtige Vorteile bei der Auswahl zwischen OpenBugs oder JAGS? Wird das eine in absehbarer Zeit das andere ersetzen? Ich werde den ausgewählten Gibbs-Sampler mit R verwenden. Ich habe noch keine...
Ich habe versucht, MCMC-Methoden zu erlernen und bin auf Stichproben von Metropolis Hastings, Gibbs, Wichtigkeit und Ablehnung gestoßen. Während einige dieser Unterschiede offensichtlich sind, dh wie Gibbs ein Sonderfall von Metropolis Hastings ist, wenn wir die vollständigen Bedingungen haben,...
Ich möchte lernen, wie Gibbs Sampling funktioniert, und suche nach einem guten Basis- bis Zwischenpapier. Ich habe einen Informatikhintergrund und grundlegende statistische Kenntnisse. Hat jemand gutes Material gelesen? wo hast du es gelernt? Vielen
Wenn ich eine Monte-Carlo-Simulation für ein Problem programmiere und das Modell einfach genug ist, verwende ich ein sehr einfaches Gibbs-Sampling-Lehrbuch. Wenn es nicht möglich ist, Gibbs-Sampling zu verwenden, codiere ich das Lehrbuch Metropolis-Hastings, das ich vor Jahren gelernt habe. Der...
Ich habe gerade etwas über Gibbs Sampling und Metropolis Hastings Algorithmus gelesen und habe ein paar Fragen. Soweit ich weiß, wird bei einer Gibbs-Stichprobe, wenn wir ein großes multivariates Problem haben, von der bedingten Verteilung abgetastet, dh eine Variable abgetastet, während alle...
Es gibt verschiedene Arten von MCMC-Algorithmen: Metropolis-Hastings Gibbs Stichprobe von Bedeutung / Ablehnung (in Verbindung stehend). Warum sollte man Gibbs-Sampling anstelle von Metropolis-Hastings verwenden? Ich vermute, dass es Fälle gibt, in denen Rückschlüsse mit Gibbs-Stichproben...
Ich habe die höchste Autorität 1, dass das Gibbs-Sampling ein Sonderfall des Metropolis-Hastings-Algorithmus für das Markov-Chain-Monte-Carlo-Sampling ist. Der MH-Algorithmus gibt immer eine Übergangswahrscheinlichkeit mit der detaillierten Balance-Eigenschaft an. Ich erwarte, dass Gibbs es auch...
MCMC-Algorithmen wie Metropolis-Hastings- und Gibbs-Sampling sind Methoden zum Sampling aus den gemeinsamen posterioren Verteilungen. Ich denke, ich verstehe und kann Metropolen-Hasting ziemlich einfach implementieren - Sie wählen einfach irgendwie Startpunkte aus und gehen den Parameterraum nach...
Ich habe die Stan-Dokumentation durchgesehen, die hier heruntergeladen werden kann . Besonders interessiert hat mich die Implementierung der Gelman-Rubin-Diagnostik. Das Originalpapier Gelman & Rubin (1992) definiert den potenziellen Skalenreduktionsfaktor (PSRF) wie folgt: Sei die te...
Ich reproduziere die Ergebnisse in Abschnitt 4.2.1 von Grund auf Grenzwahrscheinlichkeit aus der Gibbs-Ausgabe Siddhartha Chib Journal of the American Statistical Association, Bd. 90, Nr. 432 (Dez. 1995), S. 1313-1321. Es ist eine Mischung aus Normalmodellen mit einer bekannten Anzahl von...
In dem Buch von Gelman & Hill (2007) (Datenanalyse unter Verwendung von Regression und mehrstufigen / hierarchischen Modellen) behaupten die Autoren, dass die Einbeziehung redundanter mittlerer Parameter zur Beschleunigung der MCMC beitragen kann. Das gegebene Beispiel ist ein nicht...
Es scheint, dass es oft schwierig ist, vollständige Bedingungen abzuleiten, aber Programme wie JAGS und BUGS leiten sie automatisch ab. Kann jemand erklären, wie er algorithmisch vollständige Bedingungen für eine beliebige Modellspezifikation
Hausaufgabenfrage: Betrachten Sie das 1-d-Ising-Modell. Let x=(x1,...xd)x=(x1,...xd)x = (x_1,...x_d) . xixix_i ist entweder -1 oder +1 π(x)∝e∑39i=1xixi+1π(x)∝e∑i=139xixi+1\pi(x) \propto e^{\sum_{i=1}^{39}x_ix_{i+1}} Entwerfen Sie einen Gibbs-Abtastalgorithmus, um Abtastwerte ungefähr aus der...
Soweit ich es verstehe, ist es das (zumindest definiert Wikipedia es so ). Aber ich habe diese Aussage von Efron * gefunden (Hervorhebung hinzugefügt): Die Markov-Kette Monte Carlo (MCMC) ist die große Erfolgsgeschichte der modernen Bayes'schen Statistik. MCMC und seine Schwestermethode „Gibbs...
Angenommen, Sie haben eine erklärende Variable X=(X(s1),…,X(sn))X=(X(s1),…,X(sn)){\bf{X}} = \left(X(s_{1}),\ldots,X(s_{n})\right) wobei eine bestimmte Koordinate darstellt. Sie haben auch eine Antwortvariable . Jetzt können wir beide Variablen wie folgt
Ich zögere tatsächlich, dies zu fragen, weil ich befürchte, dass ich auf andere Fragen oder Wikipedia zu Gibbs-Stichproben verwiesen werde, aber ich habe nicht das Gefühl, dass sie beschreiben, was zur Hand ist. Bei einer bedingten Wahrscheinlichkeit p(x|y)p(x|y)p(x|y) :
Der Hintergrund meiner Studie : In einem Gibbs-Sampling , wo wir Probe XXX (die Variablen von Interesse) und YYY aus P(X|Y)P(X|Y)P(X|Y) und P(Y|X)P(Y|X)P(Y|X) ist, wobei XXX und YYY sind kkk -dimensionalen Zufallsvektoren. Wir wissen, dass der Prozess normalerweise in zwei Phasen unterteilt ist:...
Ich bin auf diesen Artikel gestoßen, in dem steht, dass bei der Gibbs-Probenahme jede Probe akzeptiert wird. Ich bin etwas verwirrt. Wie kommt es, dass jede aufgenommene Probe zu einer stationären Verteilung konvergiert? Im allgemeinen Metropolis-Algorithmus akzeptieren wir als min (1, p (x *) / p...
Ich schätze derzeit ein stochastisches Volatilitätsmodell mit Markov-Ketten-Monte-Carlo-Methoden. Dabei implementiere ich Gibbs- und Metropolis-Stichprobenverfahren. Angenommen, ich nehme eher den Mittelwert der posterioren Verteilung als eine Zufallsstichprobe daraus. Wird dies allgemein als...
Ich habe also 16 Studien, in denen ich versuche, eine Person anhand eines biometrischen Merkmals mithilfe von Hamming Distance zu authentifizieren. Mein Schwellenwert ist auf 3,5 eingestellt. Meine Daten sind unten und nur Versuch 1 ist ein wahres Positiv: Trial Hamming Distance 1 0.34 2 0.37 3...