Weiß jemand, in welchem Jahr MCMC alltäglich wurde (dh eine beliebte Methode für Bayes'sche Inferenz)? Ein Link zur Anzahl der im Laufe der Zeit veröffentlichten MCMC (Journal) -Artikel wäre besonders hilfreich.
Ich bezweifle, dass jemand ein einziges Jahr liefern könnte. Es ist vernünftiger, die Verbreitung von MCMC über die Zeit zu betrachten. Es entstand in den 50er Jahren mit dem Metropolis-Hastings-Algorithmus, wurde jedoch erst weit verbreitet eingesetzt, als ab den 80er Jahren relativ preiswerte Rechenleistung zur Verfügung stand. Die ersten Anwendungen waren meines Wissens die Bayesianischen Gesichtserkennungstechnologien dieser Zeit. Zweitens verbreitete sich der Einsatz von MCMC ab den 90er Jahren in anderen Bereichen wie Wirtschaft und Marketing mit der Chicagoer Schule. Schauen Sie sich Gilks & Spiegelhalters 1996 Practical MCMC an .
User332577
1
Diese Frage ist vage und fordert zur Stellungnahme auf (es gibt keine akzeptierte Definition von Alltäglichem oder Populärem). Es lässt eine beliebige Anzahl von wohl richtigen Antworten zu.
Glen_b
1
@ Glen_b Ich denke, die Antwort unten ist ausgezeichnet. Stimmst du nicht zu Oder haben Sie Ihren Kommentar vor dieser Antwort geschrieben? (Beide sagen nur 'gestern').
Peter Flom - Wiedereinsetzung von Monica
2
@ Peter Mine kam vor jeder Antwort; Fahren Sie mit der Maus über das Wort "gestern", um die genaue UTC-Zeit anzuzeigen. Ich denke, die Antwort, die Sie angeben, ist eine gute Teilantwort, aber die Frage lässt immer noch mehrere völlig unterschiedliche Takes zu, ohne dass eine gute Grundlage für die Auswahl besteht.
Glen_b
Antworten:
25
Dieses Papier von Christian (Xi'an) Robert und George Casella bietet eine schöne Zusammenfassung der Geschichte von MCMC. Aus dem Papier (Schwerpunkt liegt bei mir).
Was als der erste MCMC-Algorithmus angesehen werden kann, ist der sogenannte Metropolis-Algorithmus, der von Metropolis et al. (1953). Es entstammt derselben Gruppe von Wissenschaftlern, die die Monte-Carlo-Methode herstellten, nämlich den Forschern von Los Alamos, hauptsächlich Physikern, die sich mit der mathematischen Physik und der Atombombe befassen.
Der Metropolis-Algorithmus wurde später von Hastings (1970) und seinem Schüler Peskun (1973, 1981) verallgemeinert.
Obwohl die statistische Folgerung im klassischen Sinne etwas entfernt war und auf früheren Techniken der statistischen Physik beruhte, brachte das wegweisende Papier von Geman und Geman (1984) Gibbs-Stichproben in den Bereich der statistischen Anwendung. Dieses Papier ist auch für den Namen Gibbs Sampling verantwortlich
Insbesondere haben Geman und Geman (1984) Gelfand und Smith (1990) dazu veranlasst, eine Arbeit zu schreiben, die der eigentliche Ausgangspunkt für einen intensiven Einsatz von MCMC-Methoden durch die statistische Mainstream-Community ist . Durch die Verwendung von Rechenalgorithmen wie dem Gibbs-Sampler und dem Metropolis-Hastings-Algorithmus wurde neues Interesse an Bayes-Methoden, statistischem Rechnen, Algorithmen und stochastischen Prozessen geweckt.
Interessanterweise enthielt die frühere Arbeit von Tanner und Wong (1987) im Wesentlichen dieselben Bestandteile wie Gelfand und Smith (1990), nämlich die Tatsache, dass das Simulieren aus den bedingten Verteilungen ausreicht, um asymptotisch aus der Verbindung zu simulieren. Diese Arbeit wurde als wichtig genug angesehen ein Diskussionspapier im Journal der American Statistical Association zu sein, aber seine Auswirkungen waren im Vergleich zu Gelfand und Smith (1990) irgendwie begrenzt.
Ich konnte die Anzahl der im Laufe der Zeit veröffentlichten Zeitschriftenartikel nicht finden, aber hier ist ein Google Ngram-Plot für die Anzahl der Erwähnungen im Laufe der Zeit. Es stimmt mehr oder weniger mit der Vorstellung überein, dass MCMC nach der Veröffentlichung von Gelfand und Smith aus dem Jahr 1990 alltäglich geworden ist.
Vielen Dank! Ich würde 1990 für das wichtigste Datum in der Geschichte von MCMC halten, da vier Artikel von Alan Gelfand und Adrian Smith in den wichtigsten Statistik-Journalen des gleichen Jahres erschienen und das Konzept, Markov-Ketten für die Simulation zu verwenden, plötzlich zum Mainstream wurden. Ich erinnere mich an einen Vortrag von Adrian Smith im Juni 1989 in Seherbrooke (PQ), in dem er die Universalität der Idee demonstrierte, indem er eine Folie mit ein paar Zeilen (Fortran?) - Code zeigte.
Xi'an,
12
Die ausgezeichnete Antwort von knrumsey gibt einen Einblick in den Fortschritt wichtiger akademischer Arbeiten im MCMC. Ein weiterer Aspekt, der untersucht werden sollte, ist die Entwicklung von Software, die dem normalen Benutzer das MCMC erleichtert. Statistische Methoden werden häufig hauptsächlich von Spezialisten verwendet, bis sie in einer Software implementiert sind, die es dem normalen Benutzer ermöglicht, sie ohne Programmierung zu implementieren. Zum Beispiel hatte die Software BUGS ihre erste Veröffentlichung im Jahr 1997. Dies scheint die Wachstumspfad in der N-Grams-Darstellung nicht verändert zu haben, aber es könnte ein Einfluss darauf gewesen sein, die Methode unter denjenigen Benutzern, die sie gefunden haben, in die allgemeine Verwendung zu bringen einschüchternd, um ihre eigenen Routinen zu programmieren.
Huh, es gibt eine kleine Wendung in der Linie für MCMC genau um 1997.
muru
Gut entdeckt - nicht sicher, ob es sich um eine ausreichend große Änderung handelt, um statistisch signifikant zu sein, aber trotzdem bemerkt.
Setzen Sie Monica
Wenn die Steigung vor 1997 beibehalten worden wäre, hätten wir um 2004 eine visuelle Schätzung von etwa 0,000015% erhalten (der tatsächliche Wert liegt jedoch nahe bei 0,0000225%). Das ist eine 50% ige Steigerung. Aber ich nehme an, die Zahlen sind sowieso zu klein.
Antworten:
Dieses Papier von Christian (Xi'an) Robert und George Casella bietet eine schöne Zusammenfassung der Geschichte von MCMC. Aus dem Papier (Schwerpunkt liegt bei mir).
Ich konnte die Anzahl der im Laufe der Zeit veröffentlichten Zeitschriftenartikel nicht finden, aber hier ist ein Google Ngram-Plot für die Anzahl der Erwähnungen im Laufe der Zeit. Es stimmt mehr oder weniger mit der Vorstellung überein, dass MCMC nach der Veröffentlichung von Gelfand und Smith aus dem Jahr 1990 alltäglich geworden ist.
quelle
Die ausgezeichnete Antwort von knrumsey gibt einen Einblick in den Fortschritt wichtiger akademischer Arbeiten im MCMC. Ein weiterer Aspekt, der untersucht werden sollte, ist die Entwicklung von Software, die dem normalen Benutzer das MCMC erleichtert. Statistische Methoden werden häufig hauptsächlich von Spezialisten verwendet, bis sie in einer Software implementiert sind, die es dem normalen Benutzer ermöglicht, sie ohne Programmierung zu implementieren. Zum Beispiel hatte die Software BUGS ihre erste Veröffentlichung im Jahr 1997. Dies scheint die Wachstumspfad in der N-Grams-Darstellung nicht verändert zu haben, aber es könnte ein Einfluss darauf gewesen sein, die Methode unter denjenigen Benutzern, die sie gefunden haben, in die allgemeine Verwendung zu bringen einschüchternd, um ihre eigenen Routinen zu programmieren.
quelle