Ergebnisse zu Monte-Carlo-Schätzungen, die anhand von Stichproben ermittelt wurden

Ich habe im letzten Jahr ziemlich genau an der Stichprobe der Wichtigkeit gearbeitet und habe ein paar offene Fragen, bei denen ich gehofft hatte, Hilfe zu bekommen.

Meine praktische Erfahrung mit Stichprobenverfahren von Bedeutung war, dass sie gelegentlich fantastische Schätzungen mit niedriger Varianz und niedriger Verzerrung liefern können. Häufiger neigen sie jedoch dazu, Schätzungen mit hohem Fehler zu erzeugen, die eine geringe Stichprobenvarianz, aber eine sehr hohe Verzerrung aufweisen.

Ich frage mich, ob jemand genau erklären kann, welche Arten von Faktoren die Gültigkeit von Stichprobenschätzungen von Bedeutung beeinflussen. Insbesondere frage ich mich:

1) Konvergieren Schätzungen der Wichtigkeitsstichproben garantiert zum richtigen Ergebnis, wenn die Vorspannungsverteilung die gleiche Unterstützung wie die ursprüngliche Verteilung aufweist? Wenn ja, warum scheint dies in der Praxis so lange zu dauern?

2) Gibt es eine quantifizierbare Beziehung zwischen dem Fehler in einer Schätzung, die durch Stichprobenerhebung von Bedeutung erstellt wurde, und der "Qualität" der Vorspannungsverteilung (dh wie weit sie mit der Null-Varianz-Verteilung übereinstimmt)

3) Teilweise basierend auf 1) und 2) - Gibt es eine Möglichkeit zu quantifizieren, wie viel Sie über eine Verteilung wissen müssen, bevor Sie mit einem Stichprobendesign von Bedeutung besser dran waren als mit einer einfachen Monte-Carlo-Methode?

monte-carlo information-theory importance-sampling Berk U.
quelle

Antworten:

Wichtige Stichproben haben genau die gleiche Validierung wie der grundlegende Monte-Carlo-Ansatz. Im Kern handelt es sich um einfaches Monte Carlo . In der Tat handelt es sich lediglich um eine Änderung des Referenzmaßes von nach Somit ist die Konvergenz in beiden Fällen durch das Gesetz der großen Zahlen gewährleistet, dh ob Sie aus oder aus simulieren . Wenn außerdem der Term endlich ist, gilt auch der zentrale Grenzwertsatz und die Konvergenzgeschwindigkeit ist

\int h (x) f (x) d x

$\int h(x) f(x) \text{d}x$

\int h (x) \frac{f (x)}{G (x)} G (x) d x

$\int h(x) \dfrac{f(x)}{g(x)} g(x) \text{d}x$

f

$f$

g

$g$

\int h^{2} (x) \frac{f^{2} (x)}{G (x)} d x

$\int h^2(x) \dfrac{f^2(x)}{g(x)} \text{d}x$

O (1 / \sqrt{n})

$\text{O}(1/\sqrt{n})$ . Wenn es "in der Praxis so lange dauert", kann der obige Varianzfaktor in der CLT ziemlich groß sein. Aber, und ich bestehe darauf, die Geschwindigkeit ist die gleiche wie bei normalem Monte Carlo, .

O (1 / \sqrt{n})

$\text{O}(1/\sqrt{n})$

Die Qualität einer Wichtigkeitsabtastungsverteilung steht somit in direktem Zusammenhang mit dem obigen Varianzfaktor, der für die "Null-Varianzverteilung" proportional zu auf Null geht . $|h(x)|f(x)$

Xi'an
quelle

Angesichts der Tatsache, dass das OP Schätzer für geringe Varianz angibt, die voreingenommen sind, aber eine geringe Varianz zu haben scheinen, vermute ich, dass er möglicherweise nach einer Stichprobe von selbstnormalisierter Bedeutung fragt. Ein gutes Beispiel finden Sie in Radford Neals Rant über den Harmonic Mean Estimator , der eine Stichprobenschätzung mit einer Varianz von 0 annimmt und Unsinn zurückgibt. Ich bin nicht sicher, ob dies jemals bei Stichproben von regelmäßiger Bedeutung vorkommt, aber es ist sicherlich selten.

Deinst

Selbst wenn dies nicht die Absicht des OP wäre, würde ich mich für einige Hinweise interessieren, wie ich herausfinden kann, wann die Selbstnormalisierung schrecklich schief gehen wird.

Deinst

@deinst Ich war mir des Selbstnormalisierungsverfahrens und seiner Fallstricke nicht bewusst. Vielen Dank dafür! In jedem Fall denke ich, dass die Probleme für die Eigenschaften meines IS-Schemas relevant sein können, deshalb möchte ich diese Idee noch etwas näher untersuchen, wenn jemand von Ihnen Ideen hat.

Berk U.

@deinst Das IS-Schema, das ich verwende, ist so konzipiert, dass es ohne die vorliegende Stichprobenverteilung funktioniert . Das Schema verwendet zuerst eine MCMC-Prozedur, um Punkte aus der Null-Varianz-Verteilung zu simulieren . Als nächstes wird die Kernel- für , um zu erzeugen . Mit in der Hand kann ich dann neue Punkte aus meiner IS-Schätzung als $ \ sum {h (y_i) f (y_i) / hat {g (y_i)} $ abtasten

g (x)

$g(x)$

M

$M$

x_{1} . . x_{M}

$x_1..x_M$

g^{*} (x) = h (x) f (x) / \int h (x) f (x) d x

$g^*(x) = h(x)f(x)/\int{h(x)f(x)dx}$

x_{1} . . x_{M}

$x_1..x_M$

\hat{g (x)}

$\hat{g(x)}$

\hat{g (x)}

$\hat{g(x)}$

N

$N$

y_{1} . . . y_{N}

$y_1...y_N$

Berk U.

Die Verwendung einer nichtparametrischen Schätzung führt zu einer Variabilität höherer Ordnung als die Monte-Carlo-Variabilität, daher würde ich davon abraten.

Xi'an

Xi'an hat die Stichprobenergebnisse von Standardbedeutung abgedeckt. Wenn Sie nach einer Stichprobe mit selbstnormalisierter Wichtigkeit fragen, bei der Sie nur und bis zu einer unbekannten Normalisierungskonstante kennen, werden einige Techniken in Kapitel 4 der statistischen Methoden von Monte Carlo und Introducing Monte sowohl in Xi'an als auch in Casella erörtert Carlo - Methoden mit R . Ich bin mir sicher, dass Xi'an dies viel detaillierter ausführen kann als ich. In gewissem Sinne ist diese Antwort ein Bärenköder. $f$ $g$

Mit der selbstnormalisierten Wichtigkeitsabtastung versuchen Sie, zu approximieren, indem Sie aus einer Verteilung auswählen deren Dichtefunktion proportional zu und Berechnen von Unter Verwendung der Delta-Methode (im Grunde genommen unter Berücksichtigung der linearen Terme der Taylor-Reihe von ) und unter Berücksichtigung von wir und

δ = \int h (x) f (x) d x

$\delta=\int h(x)f(x)\text{d}x$

x_{1}, \dots, x_{n}

$x_1,\ldots,x_n$

g (x)

$g(x)$

\hat{δ} = \frac{\sum_{i = 1}^{n} h (x) f (x) / g (x)}{\sum_{i = 1}^{n} f (x) / g (x)} .

$\hat{\delta}=\frac{\sum_{i=1}^n h(x)f(x)/g(x)}{\sum_{i=1}^n f(x)/g(x)}.$

X / Y

$X/Y$

ω (X) = f (x) / g (X)

$\omega(X)=f(x)/g(X)$

E_{g} (\hat{δ}) \approx δ + \frac{δ {Var}_{g} (ω (X)) - {Cov}_{g} (ω (X), h (X) ω (X))}{n}

$E_g(\hat{\delta})\approx \delta + \frac{\delta \text{Var}_g(\omega(X))-\text{Cov}_g(\omega(X),h(X)\omega(X))}{n}$

{Var}_{G} (\hat{δ}) \approx \frac{{Var}_{G} (h (X) ω (X)) - 2 δ {Cov}_{G} (ω (X), h (X) ω (X)) + δ^{2} {Var}_{G} (ω (X))}{n} .

$\text{Var}_g(\hat{\delta})\approx\frac{\text{Var}_g(h(X)\omega(X))-2\delta\text{Cov}_g(\omega(X),h(X)\omega(X))+\delta^2\text{Var}_g(\omega(X))}{n}.$

Um eine geringe Verzerrung und Varianz zu erhalten, möchten Sie intuitiv, dass klein und positiv zu sein. Leider sind diese Näherungen nicht perfekt (und die genaue Bestimmung der Varianzen und Kovarianzen ist wahrscheinlich genauso schwierig wie die Lösung des ursprünglichen Problems). $\text{Var}_g(\omega(X))$ $\text{Cov}_g(\omega(X),h(X)\omega(X))$

deinst
quelle

Danke dafür. Ich bin mir nur ein bisschen unsicher, ob es einen Tippfehler gibt. Was genau bedeuten und in Ihrer Erklärung?

X / Y

$X/Y$

G

$G$

Berk U.

@BerkUstun Die Hauptstadt G ist ein Tippfehler für eine kleine, die ich umgehend beheben werde. X / Y ist nur ein allgemeines Verhältnis von Zufallsvariablen. IIRC all dies wird in Lius Monte-Carlo-Buch (etwas mit wissenschaftlichem Titel) erklärt

deinst

@deinst: Toller Punkt! Tatsächlich unterscheiden sich die Eigenschaften der selbstnormierten Versionen erheblich von denen des unverzerrten Stichprobenschätzers. Theoretisch würde man einen separaten Wichtigkeits-Sampler benötigen, um den Nenner zu schätzen.

Xi'an,