Modell mit zulässigen Schätzern, die nicht der Bayes-Schätzer für eine Auswahl von Prior sind?

8

Jeder Bayes-Schätzer ist nach meinem besten Wissen zulässig. (Verwandte Fragen - 1 , 2. ) Ich erinnere mich, dass mein Professor einmal während einer Vorlesung erwähnt hat, dass, zumindest als grobe Intuition, auch das Gegenteil der Fall ist, dh jeder zulässige Schätzer ist der Bayes-Schätzer für eine Auswahl von Prior. Er sagte etwas im Sinne von "Es gibt Ausnahmen" oder "Regelmäßigkeitsbedingungen sind erforderlich".

Frage: Weiß jemand etwas über:

  • Welche Regelmäßigkeitsbedingungen sind für die Umkehrung erforderlich, jeder zulässige Schätzer ist der Bayes-Schätzer für einige Vorgänger?
  • und / oder gibt es (gute) Gegenbeispiele für statistische Modelle, bei denen (vernünftige) zulässige Schätzer keine Bayes-Schätzer für eine Wahl des Prior sind?

Ich vermute, dass jedes Gegenbeispiel etwas mit Cromwells Regel zu tun haben könnte, zumal es bekannt ist, dass Prioritäten, die gegen Cromwells Regel verstoßen, die "effektive Modellgröße" künstlich reduzieren. Wenn wir also ein Modell hätten, für das aus irgendeinem Grund alle Prioren gegen Cromwells Regel verstoßen müssten, wäre es denkbar, dass es (vernünftige) Gegenbeispiele geben könnte.

Als Hausaufgabenproblem mussten wir dieses Gegenteil in einem sehr begrenzten Fall beweisen: für Prioren, die nicht gegen Cromwells Regel verstoßen, und für einen endlichen Parameterraum. Ich denke, die Beschränkung auf einen endlichen Parameterraum war jedoch nicht wesentlich, sondern nur, um uns die konvexe Analyse in unendlichdimensionalen Vektorräumen zu ersparen, da die Funktionsanalyse nicht als Voraussetzung für den Kurs aufgeführt wurde. Davon abgesehen ist nicht jeder unendlich dimensionale Vektorraum ein Banach-Raum, für den Verallgemeinerungen der konvexen Analyse gelten. Daher können / sollten wir möglicherweise erwarten, dass Gegenbeispiele existieren, aber wenn sie existieren, erwarten wir auch, dass sie unendliche Parameterräume haben.

EDIT: Basierend auf dieser Antwort ist eine andere Vermutung, die ich habe, dass Gegenbeispiele für ein Modell existieren könnten, bei dem alle Priors aus irgendeinem Grund ein unendliches Bayes-Risiko haben - vielleicht ein Cauchy-Modell?

Chill2Macht
quelle
2
Zu Ihrer Meta-Frage: Wenn Sie sie so markieren, als würden [self-study]Sie sagen, dass Sie Hinweise wünschen, diese aber alleine lösen möchten. Wenn Sie dies nicht tun, möchten Sie, dass jemand direkt darauf antwortet. Da dies keine Hausaufgabe ist, ist das [self-study]Tag nicht obligatorisch.
Tim
@ Tim Oh OK - ja, es ist mir egal, ob jemand nur einen Hinweis gibt oder die gesamte Antwort angibt - beides wäre für mich interessant.
Chill2Macht

Antworten:

10

Einige Ergebnisse zu Bayes und Zulässigkeit:

  1. Wenn das Bayes-Risiko endlich ist, gibt es einen zulässigen Bayes-Schätzer, und wenn das Bayes-Risiko unendlich ist, gibt es keinen Grund, warum die zugehörigen Bayes-Schätzer zulässig sind. Ich kann mir keinen Fall vorstellen, in dem alle Priors ein unendliches Bayes-Risiko hätten, da die Priors Dirac-Massen enthalten
  2. [vollständige Klasse] Wenn ein Schätzer zulässig ist und der Parametersatz Θ ist endlich, dann ist dieser Schätzer Bayes
  3. [Satz von Blyth] Wenn Θ ist offen, wenn die Risikofunktion R(θ,δ) ist kontinuierlich in θ, und wenn δ ist eine Grenze von Bayes-Schätzern in dem Sinne, dass
    limnR(πn,δ)minξR(πn,ξ)πn(Θ)=0
    dann ist der Schätzer zulässigδ
  4. [Steins Theorem] Wenn die Unterstützung der Abtastdichte nicht von abhängt , wenn die Verlustfunktion in d für jedes stetig und streng konvex ist und divergiert im Unendlichen ist dann jeder zulässige Schätzer eine Grenze von Bayes-Schätzern, die Prioritäten auf einer endlichen Menge entsprechenf(|θ)θL(θ,d)θ
  5. Der Maximum-Likelihood-Schätzer des Mittelwerts im , ist unter quadratischem Fehlerverlust zulässig, Bayes jedoch nicht unter quadratischem Verlust nur verallgemeinerte BayesxN(θ,1)δ0(x)=x
  6. [Duanmu und Roy, 2016] Für exponentielle Familien wird unter geeigneten Bedingungen jeder zulässige Schätzer Bayes verallgemeinert.
  7. [Farrell, 1968] "Bei Problemen beim Testen statistischer Hypothesen gibt es Beispiele für zulässige Tests, die nicht verallgemeinert werden können. Obwohl wir glauben, dass dies auch für einige Schätzprobleme gilt, haben wir kein schlüssiges Beispiel für einen zulässigen Schätzer das ist kein verallgemeinerter Bayes-Schätzer. "

(Alle Aussagen außer 6 sind in meinem Buch verfügbar , ebenso wie die von Jim Berger und Peter Hoff .)

Nachdem ich weiter gegraben hatte, fand ich diese beiden Übungen in Larry Browns Fundamentals of Statistical Exponential Families :

Übung 4.17.1, Larry Browns Grundlagen statistischer Exponentialfamilien

Übung 4.17.1, Larry Browns Grundlagen statistischer Exponentialfamilien

Xi'an
quelle
2
Dies ist definitiv ein hilfreicher Start. Haben Sie eine Referenz für die dritte Aussage? Wir haben die ersten beiden in meinem Kurs bewiesen, aber die dritte ist für mich völlig neu und ich würde mich gerne mehr damit befassen.
Chill2Macht
2
Wenn ich mich richtig erinnere, wurde dieser Kommentar geschrieben, als nur drei Elemente in der Liste waren, und nur das dritte Element befasste sich mit der Richtung "zulässig -> Bayes". Natürlich gab es nachfolgende Aktualisierungen, aber nachdem ich keine Benachrichtigungen über neue Antworten oder Antworten erhalten hatte, hatte ich keine Ahnung, dass solche Aktualisierungen auftraten, und hätte nie gedacht, nach ihnen zu suchen.
Chill2Macht