Wurzelfindung für stochastische Funktion

Angenommen, wir haben eine Funktion , die wir nur durch ein Rauschen beobachten können. Wir können direkt berechnen , nur wobei ein zufälliges Rauschen ist. (In der Praxis: Ich berechne mit einer Monte-Carlo-Methode.) $f(x)$ $f(x)$ $f(x) + \eta$ $\eta$ $f(x)$

Welche Methoden gibt es, um Wurzeln von , dh so zu berechnen , dass ? $f$ $x$ $f(x) = 0$

Ich suche nach Methoden, die die Anzahl der Auswertungen für minimieren , da dies rechenintensiv ist. $f(x)+\eta$

Ich interessiere mich besonders für Methoden, die auf mehrere Dimensionen verallgemeinern (dh lösen ). $f(x,y) = 0, g(x,y) = 0$

Ich interessiere mich auch für Methoden, die einige Informationen über die Varianz von , da eine Schätzung davon verfügbar sein kann, wenn Verwendung von MCMC berechnet wird . $\eta$ $f(x)$

approximation Szabolcs
quelle

Ich bin mir nicht sicher, welche Tags für diese Frage geeignet sind. Bitte helfen Sie beim erneuten Markieren.

Szabolcs

Um fair zu sein, fand ich eine stochastische Annäherung , aber nur sehr wenige praktische Informationen mit Beispielen oder praktischen Diskussionen darüber, wann es gut funktioniert und wann nicht. Die meisten Informationen stammen aus wissenschaftlichen Arbeiten, deren Umsetzung in eine praktische Anwendung anscheinend einen erheblichen Arbeitsaufwand erfordert. Eine andere Sache, die ich gefunden habe, ist das Schlüsselwort Likelihood-free Estimation , das ein sehr ähnliches Problem löst und online mehr praktische Informationen zur Verfügung stellt. Gibt es noch etwas? Referenzen sind willkommen!

Szabolcs

interessantes Problem. Ich nehme an, alle Gradientenmethoden gehen aus dem Fenster

Aksakal

Auch in Ihrem Fall ist das Problem schwieriger: Sie können

über MC

v a r [η]

$var[\eta]$

Aksakal am

Ich werde Glen_bs Kopfgeld um weitere 50 erhöhen, um eine gute Antwort zu erhalten.

Szabolcs

Antworten:

Möglicherweise finden Sie die folgenden Referenzen nützlich:

Pasupathy, R. und Kim, S. (2011) Das stochastische Wurzelfindungsproblem: Überblick, Lösungen und offene Fragen. ACM-Transaktionen zur Modellierung und Computersimulation, 21 (3). [ DOI ] [ Preprint ]

Waeber, R. (2013) Probabilistische Bisektionssuche nach stochastischer Wurzelfindung. Doktorarbeit, Cornell University, Ithaca. [ pdf ]

QuantIbex
quelle

(+1) Die Beantwortung einer Frage mit einem Dissertationszitat aus dem Jahr 2013 ist ziemlich beeindruckend.

Sycorax sagt Reinstate Monica

Das Google-Fu dieses

Mannes

Das erste Papier, das Sie zitieren, ist nützlich, aber es sollte beachtet werden, dass noch einiges an Arbeit erforderlich ist, um die Methoden in die Praxis umzusetzen.

Szabolcs

Es wäre wirklich schön, wenn jemand, der die Methoden durchgearbeitet hat, eine Schätzung des Arbeitsaufwands abgeben könnte, der erforderlich ist, um vom Papier zur einfachsten Implementierung zu gelangen. Ich warf einen Blick auf die erste Zeitung und sie scheint ziemlich dicht zu sein.

Ramon Martinez

Ich denke für diese Art von Problemen kann man den stochastischen Gradientenabstieg verwenden, siehe zB finzi.psych.upenn.edu/R/library/sgd/html/sgd.html

Tom Wenseleers 15.11.18