MCMC; Können wir sicher sein, dass wir eine "reine" und "groß genug" Probe vom hinteren Teil haben? Wie kann es funktionieren, wenn wir es nicht sind?

Unter Bezugnahme auf diesen Thread: Wie würden Sie einem Laien Markov Chain Monte Carlo (MCMC) erklären? .

Ich kann sehen, dass es sich um eine Kombination von Markov-Ketten und Monte Carlo handelt: Eine Markov-Kette wird mit dem posterior als invariante Grenzverteilung erstellt, und dann werden Monte Carlo-Zeichnungen (abhängig) von der Grenzverteilung (= unserem posterior) erstellt.

Nehmen wir an (ich weiß, dass ich hier vereinfache), dass wir nach Schritten bei der Grenzverteilung (*) sind. $L$ $\Pi$

Da die Markov-Kette eine Folge von Zufallsvariablen ist, erhalte ich eine Folge , wobei eine Zufallsvariable und die Begrenzung ist. ' Zufallsvariable, aus der wir eine Stichprobe machen möchten. $X_1, X_2, \dots , X_L, \Pi, \Pi, \Pi, \dots \Pi$ $X_i$ $\Pi$

Die MCMC beginnt mit einem Anfangswert, dh ist eine Zufallsvariable mit der gesamten Masse bei diesem einen Wert . Wenn ich für Zufallsvariablen Großbuchstaben und für die Realisierung einer Zufallsvariablen Kleinbuchstaben verwende, gibt mir die MCMC eine Folge . Die Länge der MCMC-Kette beträgt also L + n. $X_1$ $x_1$ $x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$

[[* Hinweis: Die Großbuchstaben sind Zufallsvariablen (dh eine ganze Reihe von Ergebnissen) und das kleine sind Ergebnisse, dh ein bestimmter Wert. *]] $x$

Offensichtlich gehören nur die zu meinem '' posterior '' und für die Approximation des posterioren '' well '' sollte der Wert von '' groß genug '' sein. $\pi_i$ $n$

Wenn ich das zusammenfasse, habe ich eine MCMC-Kette der Länge , nur sind relevant für meine hintere Approximation und sollte groß genug sein. $x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$ $N=L+n$ $\pi_1,\pi_2,\dots, \pi_n$ $n$

Wenn ich einige der (dh Realisierungen, bevor die invariante Verteilung erreicht ist) in die Berechnung der Approximation des posterioren einbeziehe, wird es "verrauscht" sein. $x_i$

Ich kenne die Länge der MCMC-Kette , aber ohne Kenntnis des , dh des Schritts, in dem ich die Grenzverteilung sicher abtasten kann, kann ich nicht sicher sein, dass ich kein Rauschen aufgenommen habe, und ich kann es auch nicht Sei dir sicher über , die Größe meiner Stichprobe aus der Grenzverteilung, insbesondere kann ich nicht sicher sein, ob sie "groß genug" ist. $N=L+n$ $L$ $n=N-L$

Soweit ich verstanden habe, ist dieser Wert von von entscheidender Bedeutung für die Qualität der Approximation des Seitenzahns (Ausschluss von Rauschen und einer großen Stichprobe davon) $L$ .

Gibt es Möglichkeiten, eine vernünftige Schätzung für wenn ich MCMC anwende? $L$

(*) Ich denke, dass im Allgemeinen vom Anfangswert abhängt . $L$ $x_1$

mcmc Gemeinschaft
quelle

TL DR; Sie können nicht schätzen, da . Somit kann die vereinfachende Annahme niemals wirklich möglich sein. (Möglicherweise gibt es einige Fälle, in denen dies der Fall ist, jedoch nicht in der allgemeinen Welt von MCMC). Sie können jedoch entscheiden, durch welches die frühe Verzerrung klein wird. $L$ $L = \infty$ $N$

Ihre Frage lautet im Wesentlichen: "Wie können wir die Einbrennzeit abschätzen?". Beim Einbrennen werden die anfänglichen Proben weggeworfen, da die Markov-Kette nicht konvergiert hat. Es gibt viele MCMC-Diagnosen, mit deren Hilfe Sie die Einbrennzeit abschätzen können. Eine Übersicht finden Sie hier .

In Bezug auf das Einbrennen gibt es zwei Durchgangsschulen. Das populäre ist, eine dieser Diagnosen zu verwenden, um zu entscheiden, was ist, und die Proben wegzuwerfen , und die zweite Schule davon, die ersten Proben sollten keine Rolle spielen, also mach dir keine Sorgen um sie. Charlie Geyer hat eine Schimpfe darüber, der ich zustimme. $L$ $L$ $L$

Nun komme ich zu den technischen Details Ihrer Frage.

Eine vereinfachende Annahme, die Sie in Ihrer Frage machen, ist, dass der Sampler schließlich (nach Schritten) aus der Grenzverteilung zu zeichnen beginnt. Ihre Samples nach Schritten sind also reine Draws, obwohl sie korreliert sind. Das ist falsch. Streng genommen ist . Die Markov-Kette konvergiert in endlicher Zeit nie wirklich zur Grenzverteilung. Das Schätzen von ist also fast sinnlos. $L$ $L$ $L$ $\infty$ $L$

Eine andere Art, diese Frage zu stellen, ist: Was ist so dass die Markov-Kette nach Schritten "nah genug" an der Grenzverteilung ist. Dies ist die Frage, die die meisten Diagnosen zu beantworten versuchen. Es besteht zunehmend Einigkeit darüber, dass die obigen Diagnosen im Allgemeinen äußerst liberal sind und "Konvergenz" diagnostizieren können, bevor dies der Fall sein sollte. In diesem Artikel werden einige der Schwächen der Diagnostik aufgezeigt. $L$ $L$

Die Benutzer werden stattdessen aufgefordert, sich keine Sorgen um zu machen, sondern sich um sorgen . Im Allgemeinen interessieren sich Benutzer nicht für die vollständige posteriore Verteilung, sondern für eine bestimmte Menge. Oft ist diese Größe der Mittelwert des Seitenzahns oder eine andere Funktion, die als Erwartung notiert werden kann. Hier kommt der "Monte Carlo" -Teil von MCMC ins Spiel, da Monte Carlo angibt, ein Integral mit der Summation zu schätzen. Also , wenn ist die Markov - Kette ( man beachte , wie ich ignoriere , da ist $L$ $N$ $X_1, X_2, X_3, \dots, X_N$ $L$ $L$ $\infty$ ), und wir wollen den posterioren Mittelwert ( ) schätzen , dann ist $\theta$

{\bar{θ}}_{N} = \frac{1}{N} \sum_{i = 1}^{N} X_{i} .

$\bar{\theta}_N = \dfrac{1}{N} \sum_{i=1}^{N}X_i.$

Die Idee ist, dass, wenn groß genug ist, die anfängliche Vorspannung der Probe unbedeutend ist. Wenn der Startwert pathetisch weit vom Hochwahrscheinlichkeitsraum der Grenzverteilung entfernt war, kann ein Benutzer natürlich die ersten Proben in die Augen werfen und wegwerfen. Dies unterscheidet sich von der Schätzung von , da es sich nicht um eine Schätzung handelt, sondern um eine gebildete Missachtung von eindeutig verfälschten Stichproben. $N$ $L$

Nun stellt sich natürlich die Frage, wie groß soll. Die Antwort sollte davon abhängen, wie gut wir schätzen wollen . Wenn wir eine gute Schätzung wünschen, brauchen wir mehr Stichproben. Wenn eine gute Schätzung ausreicht, ist eine kleinere Stichprobe möglicherweise in Ordnung. Dies ist auch genau das, was bei statistischen Standardproblemen passiert. $N$ $\theta$

Die Art und Weise, wie wir die "Güte" einer Schätzung quantifizieren, ist zu denken: "Was können wir über , den Monte-Carlo-Fehler, sagen ? Unter vernünftigen Bedingungen gibt es tatsächlich eine Markov-Kette CLT, die als sagt , für jede Ausgangsverteilung $(\bar{\theta}_N - \theta)$ $N \to \infty$

\sqrt{N} ({\bar{θ}}_{N} - θ) \overset{d}{\to} N_{p} (0, Σ),

$\sqrt{N}(\bar{\theta}_N - \theta) \overset{d}{\to} N_p(0, \Sigma),$

wobei und die asymptotische Kovarianzmatrix ist. Der Schlüssel hier ist, dass das Ergebnis für jede Erstverteilung wahr ist. $\theta \in \mathbb{R}^p$ $\Sigma$

Wenn klein ist, wissen wir, dass der Schätzer gut ist. In diesem Artikel wird diese Idee des Stoppens vorgestellt, und meine Antwort hier fasst ihre Methode zusammen. Die Ergebnisse in ihrer Arbeit sind auch unabhängig von der anfänglichen Verteilung des Prozesses. $\Sigma/N$

Greenparker
quelle

L

$L$

\infty

$\infty$

Σ / n

$\Sigma/n$

{\hat{θ}}_{N}

$\hat{\theta}_N$

Σ / N

$\Sigma/N$

{\bar{θ}}_{N}

$\bar{\theta}_N$

X_{1} \sim π

$X_1 \sim \pi$

{\bar{g}}_{n}

$\bar{g}_n$

X_{1} \sim π

$X_1 \sim \pi$

π

$\pi$

MCMC; Können wir sicher sein, dass wir eine "reine" und "groß genug" Probe vom hinteren Teil haben? Wie kann es funktionieren, wenn wir es nicht sind?

Antworten: