Verwendung von Metropolis & Rejection & Inverse Transform Sampling-Methoden

Ich weiß, dass die Inverse Transform- Methode nicht immer eine gute Option für Stichproben aus Verteilungen ist, da es sich um eine Analysemethode handelt, die von der Form der Verteilungsfunktion abhängt. Zum Beispiel ist die inverse eindimensionale Gaußsche Verteilung nicht zu berechnen, die Abtastung liefert jedoch gute Ergebnisse. Ich könnte sagen, dass diese Methode für mich alles ist, was ich brauche. Aber könnten die MCMC-Methoden ( Metropolis-Hastings oder Rejection ) eine bessere Leistung erbringen als die inverse Transformation? Sind die MCMC-Methoden besser als die IT, weil sie seltenere Ereignisse abdecken ? Oder gibt es noch andere Vorteile? Einige Beispiele könnten helfen! Vielen Dank!

Es ist nicht ganz richtig zu sagen, dass inverse Methoden unmöglich zu berechnen sind. Es gibt vollkommen gute numerische Annäherungen an die inverse Gaußsche CDF . Soweit mir bekannt ist, verwenden viele Methoden es, um Gaußsche Zufallsvariablen zu generieren. Es gibt natürlich viele andere , möglicherweise einfachere Methoden zur Erzeugung von Gaußschen.

In Bezug auf die Ablehnungsstichprobe handelt es sich um einen gemischten Beutel. Wenn das Gaußsche PDF ist, müssen Sie bei der Zurückweisungsabtastung ein PDF , das dominiert : für einige . Eine Interpretation für hier die erwartete Anzahl von Ablehnungen, die Sie vornehmen müssen, bevor Sie eine Stichprobe annehmen. Je kleiner ist, desto besser. Dieses Problem kann die Abstoßungsabtastung zu einem großen Schmerz machen, da manchmal sehr groß ist. Die Regel lautet hier: Wenn Sie kein , das nachvollziehbar macht , müssen Sie sich andere Methoden ansehen, z. B. die inverse Transformationsmethode.$f(x)$$g(x)$ $f(x)$$f(x)\leq Mg(x)$$M>0$$M$$M$$M$$g$$M$

Zum Beispiel funktioniert die Exponentialverteilung für die Normalverteilung (eigentlich die einseitige Normalverteilung, nach der Sie eine Münze werfen können, um über das Vorzeichen zu entscheiden). In diesem Fall können Sie berechnen. Dies ist großartig, da das Exponential mit der inversen cdf-Methode sehr einfach zu generieren ist und Sie durchschnittlich nur ungefähr 2 Samples wegwerfen müssen . Das Schöne an der Ablehnungsabtastung in Kombination mit MCMC ist, dass Sie auf clevere Weise seltene Ereignisse simulieren können, ohne die Lebensdauer des Universums auf das Eintreten des Ereignisses warten zu müssen.$M=\sqrt{2\pi/e}=1.32$

Bei Vergleichen zwischen Simulationsmethoden geht es nur um Effizienz, da alle eine Ausgabe erzeugen, die von derselben Zielverteilung stammen soll. Daher können Sie nicht ein Simulationsverfahren erwarten (wie MCMC) produzieren mehr seltene Ereignisse als eine andere, da diese seltenen Ereignisse sollen in der richtigen (und seltene) Rate auftreten.

Die inverse Transformation CDF Ansatz, nämlich zurückzukehren , wenn ist , wie aus verteilt . ist mathematisch korrekt. Es kann ineffizient werden, wenn berechnet wird$F^{-}(U)$$U$$\mathscr{U}(0,1)$$F$$F^{-1}$ist zu anspruchsvoll. Wenn die Software Ihrer Wahl einen Code für diese Umkehrung enthält, müssen Sie nicht weiter suchen, es sei denn, Sie sind besorgt über die Genauigkeit der Inversion (müssen dann aber eine andere Methode mit einer höheren numerischen Genauigkeit finden!). Wenn das inverse cdf nicht codiert ist und eine hohe Codierungsinvestition erfordert, ist es effizienter, nach generischen Methoden wie Markov-Ketten-Monte-Carlo-Methoden zu suchen, die den Nachteil haben, dass Simulationen, die genau vom Ziel stammen, nicht garantiert werden. Dies sind insofern asymptotische Methoden, als die Verteilung der Simulation nur dann zur Zielverteilung konvergiert, wenn die Anzahl der Markov-Schritte unendlich wird (außer in besonderen Fällen, in denen die Konvergenz nach einer endlichen Anzahl von Schritten validiert werden kann). Diese sind aber auch generisch Methoden, die weniger Codierung und Planung erfordern, daher effizientere Methoden in dem Sinne, dass die Computerzeit im Vergleich zur eigenen Zeit des Codierers ziemlich billig ist.