Ist Gibbs Sampling eine MCMC-Methode?

11

Soweit ich es verstehe, ist es das (zumindest definiert Wikipedia es so ). Aber ich habe diese Aussage von Efron * gefunden (Hervorhebung hinzugefügt):

Die Markov-Kette Monte Carlo (MCMC) ist die große Erfolgsgeschichte der modernen Bayes'schen Statistik. MCMC und seine Schwestermethode „Gibbs Sampling“ ermöglichen die numerische Berechnung der posterioren Verteilungen in Situationen, die für den analytischen Ausdruck viel zu kompliziert sind.

und jetzt bin ich verwirrt. Ist dies nur ein kleiner Unterschied in der Terminologie oder tastet Gibbs etwas anderes als MCMC ab?

[*]: Efron 2011, "The Bootstrap and Markov-Chain Monte Carlo"

Gabriel
quelle

Antworten:

15

Der Algorithmus, der jetzt als Gibbs-Abtastung bezeichnet wird, bildet eine Markov-Kette und verwendet für seine Eingaben eine Monte-Carlo-Simulation, sodass er tatsächlich in den angemessenen Rahmen der MCMC-Methoden (Markov-Chain Monte-Carlo) fällt. Historisch gesehen lässt sich die Methode mindestens bis zur Mitte des 20. Jahrhunderts zurückverfolgen, war jedoch nicht bekannt und wurde erst später durch die wegweisende Arbeit von Geman und Geman (1984) populär gemacht, in der die statistische Physik in Bezug auf die Verwendung von untersucht wurde die Gibbs-Verteilung (für einige historische Referenzen siehe Casella und George 1992 , S. 167).

Aus irgendeinem Grund bezieht sich Efron in seinem Artikel auf den Gibbs-Sampler, als ob er außerhalb des Anwendungsbereichs von MCMC liege. Er tut dies in dem Zitat, das Sie gegeben haben, und auch in einigen anderen Teilen des Papiers. Da sich sein einleitender Verweis auf die Technik auf den "Gibbs-Sampler" bezieht (in Anführungszeichen angegeben), ist es möglich, dass er auf die historische Tatsache anspielt, dass die ursprüngliche Methode durch die Gibbs-Verteilung in der statistischen Physik entwickelt und nicht in die aufgenommen wurde allgemeine statistische Theorie der MCMC bis viel später. Dies ist meine beste Vermutung, warum er sich so darauf bezieht.

Update: Da Prof. Efron noch lebt, habe ich mir erlaubt, ihm zu schreiben und zu fragen, warum er den Gibbs-Sampler so beschreibt. Hier ist seine Antwort (Wiedergabe mit seiner Erlaubnis):

Es war hauptsächlich aus historischen Gründen ... Andererseits sieht der Gibbs-Algorithmus ganz anders aus als das MCMC-Rezept, und es erfordert einige Arbeit, um zu zeigen, dass er in gewissem Sinne derselbe ist. (Efron 2018, persönliche Korrespondenz, Auslassungspunkte im Original)

Stellen Sie Monica wieder her
quelle
1
Vielen Dank! Ich werde abwarten, ob Sie eine Antwort von Dr. Efron erhalten. Wenn nicht, werde ich diese immer noch als Antwort auswählen.
Gabriel
4

Gehen Sie mit Wikipedia. Besser noch, gehen Sie mit diesen MCMC-Forschern:

Der Gibbs-Sampler ist ein Beispiel für einen Markov-Ketten-Monte-Carlo-Algorithmus. In der Tat ist es ein Sonderfall des Metropolis-Hastings-Algorithmus. Jeder Algorithmus, der zufällige Ziehungen aus einer Verteilung generiertπ(θ) durch Simulation einer Markov-Kette, die hat π(θ) Die stationäre Verteilung ist ein Markov-Ketten-Monte-Carlo-Algorithmus, und genau das macht der Gibbs-Sampler.

jcz
quelle