Hamiltonian Monte Carlo (HMC): Was ist die Intuition und Rechtfertigung hinter einer Gaußschen verteilten Impulsvariablen?

8

Ich lese gerade ein großartiges HMC-Einführungspapier von Prof. Michael Betancourt, aber ich verstehe nicht, wie wir die Verteilung des Impulses wählen sollen.

Zusammenfassung

Die Grundidee von HMC besteht darin, eine Impulsvariable in Verbindung mit der Zielvariablen einzuführen . Sie bilden gemeinsam einen Phasenraum .pq

Die Gesamtenergie eines konservativen Systems ist eine Konstante und das System sollte den Hamilton-Gleichungen folgen. Daher können die Trajektorien im Phasenraum in Energieniveaus zerlegt werden , jedes Niveau entspricht einem gegebenen Wert der Energie E und kann als eine Menge von Punkten beschrieben werden, die erfüllt:

H1(E)={(q,p)|H(q,p)=E} .

Wir möchten die gemeinsame Verteilung \ pi (q, p) schätzen π(q,p), damit wir durch Integration von p die gewünschte Zielverteilung π(q) . Darüber hinaus kann π(q,p) äquivalent als π(θE|E)π(E) , wobei E entspricht Ein bestimmter Wert der Energie und θE ist die Position auf diesem Energieniveau.

π(q,p)={π(p|q)π(q)π(θE|E)π(E),microcanonical decomposition

Für einen gegebenen Wert von ist relativ einfacher zu wissen, da wir die Hamilton-Gleichungen integrieren können, um die Datenpunkte auf der Trajektorie zu erhalten . Jedoch ist der schwierige Teil, der davon abhängt , wie wir den Impuls geben, die folglich die Gesamtenergie bestimmt .Eπ(θE|E)π(E)E

Geben Sie hier die Bildbeschreibung ein

Fragen

Es scheint mir, dass das , wonach wir , aber was wir praktisch schätzen können, ist , basierend auf der Annahme, dass kann ungefähr ähnlich zu , wie in Fig. 23 des Papiers dargestellt. Was wir jedoch tatsächlich abtasten, scheint .π(E)π(E|q)π(E|q)π(E)π(p|q)

Q1 : Ist das so, weil wir, sobald wir , leicht berechnen und daher ?π(p|q)Eπ(E|q)

Um anzunehmen, dass gilt, verwenden wir einen verteilten Gaußschen Impuls. In dem Papier werden zwei Möglichkeiten erwähnt:π(E)π(E|q)

π(p|q)={N(p|0,M)Euclidean-Gaussian kinetic energyN(p|0,Σ(q))Reimannian-Gaussian kinetic energy,

Dabei ist eine Konstante, die als euklidische Metriken bezeichnet wird, auch bekannt als Massenmatrix .MD×D

Im Fall der ersten Wahl (Euklidisch-Gauß) ist die Massenmatrix tatsächlich unabhängig von , so dass die Wahrscheinlichkeit, dass wir eine Stichprobe machen, tatsächlich . Die Wahl des Gauß-verteilten Impulses mit der Kovarianz impliziert, dass die Zielvariable mit der Kovarianzmatrix Gauß-verteilt ist , da und umgekehrt transformiert werden müssen, um das Volumen im Phasenraum konstant zu halten .Mqπ(p)pMqM1pq

F2 : Meine Frage ist, wie können wir erwarten, dass einer Gaußschen Verteilung folgt? In der Praxis könnte eine komplizierte Verteilung sein.qπ(q)

cwl
quelle

Antworten:

8

Es ist nicht so sehr, dass wir nach , es ist nur so, dass wenn und sind, unsere Erforschung durch unsere Unfähigkeit begrenzt wird, alle relevanten Energien zu erforschen. Folglich sind in der Praxis empirische Schätzungen von und nützlich, um mögliche Einschränkungen unserer Exploration zu identifizieren, die die Motivation für das vergleichende Histogramm und die E-BFMI-Diagnose darstellen.π(E)π(E)π(E|q)π(E)π(E|q)

Was wissen wir über die beiden Distributionen? Wenn wir die Dimensionalität unserer Zielverteilung erhöhen , sieht immer mehr nach Gauß aus. Wenn unsere Integrationszeiten lang genug sind, werden sich unsere Erkundungen der Pegelsätze ausgleichen, und wenn Gauß ist, wird auch tendenziell immer mehr Gauß sein. π(E)π(p|q)π(E|q)

Daher ist eine Gauß-Euklidische kinetische Energie ein guter Ausgangspunkt, aber keineswegs immer optimal ! Ich verbringe viel Zeit damit, Modelle zu finden, bei denen Stan mich wegen schlechter E-BFMI-Diagnose anschreit. Eine Gaussian-Riemannsche kinetische Energie kann eine deutliche Verbesserung in vielen Fällen als positionsabhängige log Determinante sein in kann machen deutlich mehr Gaussian, aber es gibt noch viel mehr Forschung zu sein getan, um das Problem vollständig zu verstehen.π(p|q)π(E)

Michael Betancourt
quelle
1
Ich habe versucht, eine Antwort zu schreiben, aber wenn THE Michael Betancourt auf Cross Validated ist, dann trete ich gerne zurück :-) Nur ein Hinweis: "Log Determent" ist höchstwahrscheinlich ein Tippfehler: Ich wette, Sie meinten "Log Determinant". .
DeltaIV
Es ist geschmeichelt, die Antwort von @Michael Betancourt zu haben :-) Nur neugierig, als Sie sagten: "Wenn wir die Dimensionalität unserer Zielverteilung erhöhen , sieht immer mehr nach Gauß aus", gibt es einen theoretischen Beweis oder ist es eine empirische Beobachtung? π(E)
cwl
3
@cwl - es ist ein asymptotisches Standardargument. Wenn die Zielverteilung mit zunehmenden Daten oder Parametern zu einer unabhängig verteilten Verteilung konvergiert, konvergiert zu einem das durch einen Gaußschen Wert über einigen Dimensionen gut angenähert wird. Andererseits tendieren wir dazu, in der Praxis nach Hamiltonian Monte Carlo zu greifen, wenn das Ziel komplex ist, so dass die Asymptotik möglicherweise nicht besonders relevant ist. Daher die Absicherung. c h i 2pi(E)chi2
Michael Betancourt
Habe es @Michael Betancourt, vielen Dank für die Erklärung!
cwl