Kann adaptive MCMC vertrauenswürdig sein?

Ich lese über adaptive MCMC (siehe z. B. Kapitel 4 der Handbuchs von Markov Chain Monte Carlo , Herausgeber Brooks et al., 2011; und auch Andrieu & Thoms, 2008 ).

$n$$p(n)$$\lim_{n \rightarrow \infty} p(n) = 0$

Dieses Ergebnis ist (a posteriori) asymptotisch intuitiv. Da der Anpassungsgrad gegen Null tendiert, wird die Ergodizität letztendlich nicht beeinträchtigt. Meine Sorge ist, was mit endlicher Zeit passiert .

• Woher wissen wir, dass die Anpassung nicht zu einem bestimmten Zeitpunkt mit der Ergodizität in Konflikt gerät und dass ein Sampler aus der richtigen Verteilung entnimmt? Wenn es überhaupt Sinn macht, wie viel Burn-In sollte man tun, um sicherzustellen, dass eine frühzeitige Anpassung die Ketten nicht belastet?

• Vertrauen Praktiker auf dem Gebiet adaptiven MCMC? Der Grund , warum ich frage ist , weil ich in letzter Zeit viele Methoden gesehen habe , die in anderen, komplexeren Möglichkeiten , um build-in Anpassung versuchen , die Ergodizität, wie sie bekannt zu respektieren Regeneration oder Ensemble Methoden (dh es ist echt einen Übergang zu wählen Operator, der vom Zustand anderer paralleler Ketten abhängt). Alternativ wird die Anpassung nur während des Einbrennens durchgeführt, wie in Stan , jedoch nicht zur Laufzeit. All diese Bemühungen legen mir nahe, dass adaptives MCMC nach Roberts und Rosenthal (das unglaublich einfach zu implementieren wäre) nicht als zuverlässig angesehen wird. aber vielleicht gibt es andere gründe.

• Was ist mit spezifischen Implementierungen wie der adaptiven Metropolis-Hastings ( Haario et al. 2001 )?

Verweise

• Rosenthal, JS (2011). Optimale Angebotsverteilung und adaptives MCMC. Handbuch von Markov Chain Monte Carlo , 93-112.
• Andrieu, C. & Thoms, J. (2008) . Ein Tutorial zum adaptiven MCMC. Statistics and Computing , 18 (4), 343-373.
• Roberts, GO & Rosenthal, JS (2007) . Kopplung und Ergodizität adaptiver Markov-Ketten-Monte-Carlo-Algorithmen. Journal of Applied Probability , 458-475.
• H. Haario, E. Saksman & J. Tamminen (2001) . Ein adaptiver Metropolis-Algorithmus. Bernoulli , 223 & ndash; 242.

Woher wissen wir, dass die Anpassung nicht zu einem bestimmten Zeitpunkt mit der Ergodizität in Konflikt gerät und dass ein Sampler aus der richtigen Verteilung entnimmt? Wenn es überhaupt Sinn macht, wie viel Burn-In sollte man tun, um sicherzustellen, dass eine frühzeitige Anpassung die Ketten nicht belastet?

Bei Ergodizität und Voreingenommenheit geht es um asymptotische Eigenschaften der Markov-Kette, sie sagen nichts über das Verhalten und die Verteilung der Markov-Kette aus at a given finite time. Die Adaptivität hat mit diesem Problem nichts zu tun. Jeder MCMC-Algorithmus kann Simulationen erzeugen, die weit vom Ziel entfernt sind at a given finite time.