Wurzelfindung für stochastische Funktion

17

Angenommen, wir haben eine Funktion , die wir nur durch ein Rauschen beobachten können. Wir können direkt berechnen , nur wobei ein zufälliges Rauschen ist. (In der Praxis: Ich berechne mit einer Monte-Carlo-Methode.)f(x)f(x)f(x)+ηηf(x)

Welche Methoden gibt es, um Wurzeln von , dh x so zu berechnen , dass f ( x ) = 0 ist ?fxf(x)=0

Ich suche nach Methoden, die die Anzahl der Auswertungen für minimieren , da dies rechenintensiv ist.f(x)+η

Ich interessiere mich besonders für Methoden, die auf mehrere Dimensionen verallgemeinern (dh lösen ).f(x,y)=0,g(x,y)=0

Ich interessiere mich auch für Methoden, die einige Informationen über die Varianz von , da eine Schätzung davon verfügbar sein kann, wenn f ( x ) unter Verwendung von MCMC berechnet wird .ηf(x)

Szabolcs
quelle
Ich bin mir nicht sicher, welche Tags für diese Frage geeignet sind. Bitte helfen Sie beim erneuten Markieren.
Szabolcs
3
Um fair zu sein, fand ich eine stochastische Annäherung , aber nur sehr wenige praktische Informationen mit Beispielen oder praktischen Diskussionen darüber, wann es gut funktioniert und wann nicht. Die meisten Informationen stammen aus wissenschaftlichen Arbeiten, deren Umsetzung in eine praktische Anwendung anscheinend einen erheblichen Arbeitsaufwand erfordert. Eine andere Sache, die ich gefunden habe, ist das Schlüsselwort Likelihood-free Estimation , das ein sehr ähnliches Problem löst und online mehr praktische Informationen zur Verfügung stellt. Gibt es noch etwas? Referenzen sind willkommen!
Szabolcs
interessantes Problem. Ich nehme an, alle Gradientenmethoden gehen aus dem Fenster
Aksakal
Auch in Ihrem Fall ist das Problem schwieriger: Sie können über MCvar[η]
Aksakal am
Ich werde Glen_bs Kopfgeld um weitere 50 erhöhen, um eine gute Antwort zu erhalten.
Szabolcs

Antworten:

12

Möglicherweise finden Sie die folgenden Referenzen nützlich:

Pasupathy, R. und Kim, S. (2011) Das stochastische Wurzelfindungsproblem: Überblick, Lösungen und offene Fragen. ACM-Transaktionen zur Modellierung und Computersimulation, 21 (3). [ DOI ] [ Preprint ]

Waeber, R. (2013) Probabilistische Bisektionssuche nach stochastischer Wurzelfindung. Doktorarbeit, Cornell University, Ithaca. [ pdf ]

QuantIbex
quelle
(+1) Die Beantwortung einer Frage mit einem Dissertationszitat aus dem Jahr 2013 ist ziemlich beeindruckend.
Sycorax sagt Reinstate Monica
1
Das Google-Fu dieses
Mannes
1
Das erste Papier, das Sie zitieren, ist nützlich, aber es sollte beachtet werden, dass noch einiges an Arbeit erforderlich ist, um die Methoden in die Praxis umzusetzen.
Szabolcs
Es wäre wirklich schön, wenn jemand, der die Methoden durchgearbeitet hat, eine Schätzung des Arbeitsaufwands abgeben könnte, der erforderlich ist, um vom Papier zur einfachsten Implementierung zu gelangen. Ich warf einen Blick auf die erste Zeitung und sie scheint ziemlich dicht zu sein.
Ramon Martinez
Ich denke für diese Art von Problemen kann man den stochastischen Gradientenabstieg verwenden, siehe zB finzi.psych.upenn.edu/R/library/sgd/html/sgd.html
Tom Wenseleers 15.11.18