Priors gewinnen ... mit Geld!

10

Angenommen, ich habe 'Experten', von denen ich eine vorherige Verteilung auf eine Variable auslösen möchte . Ich möchte sie mit echtem Geld motivieren . Die Idee ist, die Priors zu entlocken, Realisierungen der Zufallsvariablen und dann eine vorgegebene "Geldbörse" unter den Experten aufzuteilen, basierend darauf, wie gut ihre Priors mit den Beweisen übereinstimmen. Welche Methoden werden für diesen letzten Teil vorgeschlagen, um die Prioritäten und Beweise auf einen Auszahlungsvektor abzubilden?kXnX

shabbychef
quelle
Da es wahrscheinlich keine richtige Antwort gibt, möchten wir diese vielleicht CW. Das überlasse ich dem Ermessen des Moderators.
Shabbychef
1
Möglicherweise gibt es eine einzige objektiv gültige gute Antwort auf diese Frage, daher zögere ich, sie in CW umzuwandeln.
whuber
1
Dies ähnelt der Idee der Prognosemärkte . PredictionBook ist ein anständiger Ort zum Anschauen.
ely

Antworten:

7

Im Sinne meines obigen Kommentars halte ich einen Prognosemarkt für das Richtige . Sie sollten Wertpapiere verkaufen, die eine feste Auszahlung haben, um die Genauigkeit der Vorhersagen zu gewährleisten. Sie können Standardmaße für die Wahrscheinlichkeitsentfernung verwenden, wie sie von Daniel Johnson in seiner Antwort erwähnt wurden. Es geht jedoch darum, die Auszahlungen in Form von Wertpapieren festzulegen und Maßstäbe im Voraus festzulegen (verwenden Sie vorzugsweise nur binäre Ereignisse wie passiert oder nicht). Auf diese Weise wissen Sie , dass jemand, der bereit ist, X für ein Wertpapier zu zahlen , das $ 1,00 zahlt, wenn das von ihm abgedeckte Ereignis tatsächlich eintritt, dem Ereignis, das das Wertpapier abdeckt, die Wahrscheinlichkeit X zuweist. Die Marktliquidität wird dafür sorgen, wie die Wertpapiere unter den Experten verteilt werden.A$

Ich denke, dies ist besser als ein fester Auszahlungsvektor, wie Sie ihn für ein Golfturnier haben könnten. Der Grund dafür ist, dass es bei einem Golfturnier nur darauf ankommt, wie gut Sie sich gegen die Konkurrenz behaupten, und nicht auf Ihre Gesamtpunktzahl. Wenn Sie Anreize für möglichst genaue frühere Überzeugungen schaffen möchten, möchten Sie nicht, dass die Leute denken, sie müssten sich nur gegenseitig übertreffen, um den Preis zu erhalten. Sie möchten, dass sie bereit sind, ihr eigenes Geld zu setzen, um Auszahlungen zu erhalten, weil sie es dann tun müssen selbst an ihre vorherige Bewertung glauben, nicht nur, dass ihre vorherige Bewertung besser ist als die anderer.

ely
quelle
Es ist auch erwähnenswert, dass die Auswirkungen von Marktmanipulationen in Prognosemärkten experimentell untersucht wurden (siehe hier und hier ), und obwohl noch mehr Arbeit geleistet werden muss, scheint es, dass die Teilnehmer böswillige Manipulatoren leicht kompensieren können. Die empirischen Ergebnisse legen nahe, dass es äußerst schwierig wäre, das System zu "spielen", wie Sie in Ihrem anderen Kommentar erwähnt haben
Uhr
4

Das Schlüsselwort, nach dem gesucht werden muss, sind Bewertungsregeln : Dies sind Funktionen zum Bewerten und Belohnen probabilistischer Vorhersagen, und es wurde bis in die 50er Jahre viel an dem Thema gearbeitet. Die Hauptsache, die Sie überprüfen müssen, ist, dass es richtig ist, dass der Experte, von dem Sie den Prior herausfordern, den Anreiz hat, ehrlich zu sein.

Es gibt eine ganze Reihe möglicher richtiger Bewertungsregeln: Eine der einfachsten ist die logarithmische Bewertungsregel: Sie belohnen den Experten mit einer (linearen Funktion) der Protokollwahrscheinlichkeit, die er dem Ereignis zugewiesen hat.

Simon Byrne
quelle
Vielen Dank! Ich neigte mich zu so etwas. Insbesondere wollte ich, dass es schwierig ist, das System von einem Agenten ohne Informationen zu "spielen".
Shabbychef
1
Überprüfen Sie den Kommentar, den ich zu meiner Antwort oben hinzugefügt habe ( Link ), da es einige vielversprechende Untersuchungen darüber gibt, wie robust Prognosemärkte gegenüber Manipulatoren und anderen, die versuchen, das System zu "spielen", besonders robust sind. Dies ist einfachen Bewertungsregeln wirklich überlegen, die Auszahlungen nur bieten, um eine bessere Genauigkeit als Gleichaltrige zu erzielen.
ely
@EMS: Was macht Prognosemärkte überlegen? Der springende Punkt einer Bewertungsregel ist, dass die Punktzahl unabhängig von den Wettbewerbern ist (obwohl sie in der Praxis zugegebenermaßen nicht oft so umgesetzt werden: dh das gesamte Geld wird an die Person mit der höchsten Punktzahl vergeben)
Simon Byrne
0

Wenn die wahre Verteilung demjenigen bekannt ist, der das Geld bezahlt, wäre eine natürliche Statistik die relative Entropie des gegebenen Prior und die wahre Verteilung. Dann könnte die Auszahlung nur eine monoton abnehmende Funktion der relativen Entropie sein.

Ich vermute jedoch, dass Sie an dem Fall interessiert sind, in dem die wahre Verteilung unbekannt ist und Auszahlungen nur anhand der Datenpunkte entschieden werden müssen . Eine Möglichkeit, dies zu tun, besteht darin, die Summe der Wahrscheinlichkeit der Datenpunkte unter jeder vorherigen Verteilung zu berücksichtigen. Formal gesehen ist .nscore(prior j)=i=1nPj(X=xi)

Eine andere Methode wäre der ersten sehr ähnlich, bei der ich davon ausgegangen bin, dass wir die Verteilung von . Da wir Datenpunkte haben, können wir diese Informationen verwenden, um die wahre Verteilung unter Verwendung der Kernel-Dichteschätzung zu approximieren . Die relative Entropie kann dann zwischen der geschätzten Verteilung und jedem der von den Experten bereitgestellten Prioritäten berechnet werden.Xn

Daniel Johnson
quelle
Sicherlich würden die Experten all diese Dinge berücksichtigen, bevor sie Ihnen ihren "Prior" geben.
ely
2
Meinen Sie, wenn die Experten die Datenpunkte anzeigen durften ? Ich hatte den Eindruck, dass ihre Prioritäten vor der Probenahme erstellt wurden und keine Funktionen dieser Daten sein konnten. n
Daniel Johnson
Es wären nicht die gleichen Datenpunkte, aber ich gehe davon aus, dass sie versuchen würden, Daten irgendwie zu sammeln oder das Problem mit etwas zu verbinden, für das sie Daten haben. Ansonsten weiß ich nicht, wie ein Mensch einen vorherigen Glauben nur verbal aussprechen könnte. Woher wissen Sie, dass es ihren internen Überzeugungen entsprach und nicht wie Preisabsprachen oder ähnliches durch das riesige 3,99- Schild beeinflusst wurde, das sie auf dem Weg zum Experiment an der Tankstelle sahen? Auch ... miau. n$
Ely
1
Was ordentlich ist, ist, dass für physikalische Größen, wie das Schätzen von Entfernungen oder die Anzahl von M & Ms in einem Glas, Menschen unvoreingenommene Schätzer sind: Nehmen Sie den Durchschnitt einer großen Anzahl von Vermutungen und es ist normalerweise sehr nahe. Aber bei nicht-physischen Mengen, wie dem Preis für Gas im nächsten Monat, sind Menschen (sogar Experten) selbst im Durchschnitt schrecklich . Die Literatur zur Planung von Irrtümern ist beängstigend, insbesondere die Beispiele professioneller Stadtplaner, die die Kosten kommunaler Projekte durchweg schlecht einschätzen, ähnlich wie Statistiken von Studenten mit Konjunkturfehlern schlecht abschneiden.
Ely
1
Das wichtigste, das ich sofort kenne, waren einige Dinge, die in einem alten Buch über Vision, "Der ökologische Ansatz zur visuellen Wahrnehmung" von James Gibson, besprochen wurden. Er erwähnte einige Experimente, bei denen Menschen Entfernungen auf einem Fußballfeld zwischen zwei weit entfernten Personen und ähnliche Dinge schätzen. Ich kann mich nicht erinnern, wo ich das M & M-Ding gehört habe, aber ich werde versuchen, einige Quellen dafür zu finden.
Ely