Wird die Theorie der unverzerrten Schätzung der minimalen Varianz in der Graduiertenschule überbewertet?

18

Kürzlich war ich sehr verlegen, als ich die Antwort auf die unparteiischen Schätzungen der minimalen Varianz für Parameter einer gleichmäßigen Verteilung abgab, die völlig falsch waren. Glücklicherweise wurde ich sofort von Kardinal und Henry korrigiert, wobei Henry die richtigen Antworten für das OP lieferte .

Das hat mich allerdings zum Nachdenken gebracht. Die Theorie der besten unverzerrten Schätzer habe ich vor 37 Jahren in meinem Mathematikkurs in Stanford gelernt. Ich habe Erinnerungen an den Rao-Blackwell-Satz, die Cramer-Rao-Untergrenze und den Lehmann-Scheffe-Satz. Aber als angewandter Statistiker denke ich nicht sehr viel über UMVUEs in meinem täglichen Leben nach, während die maximale Wahrscheinlichkeitsschätzung sehr hoch ist.

Warum das? Überbewerten wir die UMVUE-Theorie in der Graduiertenschule zu sehr? Ich glaube schon. Vor allem ist Unparteilichkeit keine entscheidende Eigenschaft. Viele perfekt gute MLEs sind voreingenommen. Stein-Schrumpfungsschätzer sind voreingenommen, dominieren jedoch den unverzerrten MLE in Bezug auf den mittleren quadratischen Fehlerverlust. Es ist eine sehr schöne Theorie (UMVUE-Schätzung), aber sehr unvollständig und ich denke nicht sehr nützlich. Was denken andere?

Michael Chernick
quelle
5
(+1) Ich stimme zu, dass dies eine gute Frage für die Hauptwebsite wäre und diese positiv bewerten wird. Es ist etwas subjektiv, daher ist es möglicherweise die beste CW-Frage. (Auch gibt es keinen Grund, sich zu schämen.)
Kardinal
2
Ich denke nicht, dass diese Art der Einschätzung im Allgemeinen überbetont wird. Ich erinnere mich, dass meine Professoren sich eher auf Beispiele konzentrierten, in denen UMVUE "albern" ist. Die Leute tendieren dazu, Punktschätzer zu verwenden, die aus Sicherheitsgründen zu populären Theorien gehören, aber es gibt eine vollständige Theorie zum Schätzen von Gleichungen. Einige Professoren konzentrieren sich auf UMVUE, weil sie eine gute Quelle für schwierige Probleme bei den Hausaufgaben sind. Ich denke, dass die Bias-Reduktion heutzutage eine populärere und nützlichere Theorie ist, als die UMVUE zu finden (die es nicht immer gibt).
2
Wir sehen hier bei UMVUE eine Menge Fragen, weil sie gute Hausaufgaben machen. Vielleicht ist dies eher ein Problem bei Statistikprogrammen für Studierende und Masterstudenten als bei PhD-Programmen.
Michael R. Chernick
3
Nun, die UMVU-Schätzung ist eine klassische Idee. Sollte sie deshalb gelehrt werden? Und es ist ein guter Ausgangspunkt, um Kriterien wie Unparteilichkeit zu diskutieren / zu kritisieren! Nur weil sie in der Praxis nicht so häufig eingesetzt werden, ist dies an sich kein Grund, sie nicht zu unterrichten.
kjetil b halvorsen
3
Der Schwerpunkt wird wahrscheinlich über die Zeit und die Abteilungen variieren. Meine Abteilung präsentiert das Material im ersten Jahr des Mathematikkurses, aber danach ist es weg, sodass ich nicht sagen kann, dass es überbetont ist (selbst im PhD-Inferenzkurs wird es in der Regel nicht zu Gunsten von mehr unterrichtet) Zeit mit Bayes- und Minimax-Schätzern, Zulässigkeit und multivariater Schätzung), obwohl ich mir wünschte, es gäbe mehr Nachdruck darauf, warum Verzerrung eine nützliche Sache ist und daher unverzerrte Schätzung ein unnötig extremes Paradigma ist.
Kerl

Antworten:

3

Wir wissen das

Wenn eine Zufallsstichprobe aus dann ist für jedes ist eine UE vonX1,X2,XnPoisson(λ)α(0,1), Tα=αX¯+(1α)S2λ

Daher gibt es unendlich viele UEs von . Nun stellt sich die Frage, welche davon wir wählen sollen. also nennen wir UMVUE. Unparteilichkeit ist kein gutes Gut, aber UMVUE ist ein gutes Gut. Aber es ist nicht sehr gut.λ

Wenn eine Zufallsstichprobe aus dann ist der minimale MSE-Schätzer der Form mit für den Parameter ist Aber es ist voreingenommen, dass es nicht UMVUE ist, obwohl es in Bezug auf die minimale MSE am besten ist.X1,X2,XnN(μ,σ2)Tα=αS2(n-1)S2=ich=1n(Xich-X¯)2σ2n-1n+1S2=1n+1ich=1n(Xich-X¯)2

Es ist zu beachten, dass das Rao-Blackwell-Theorem besagt, dass wir uns zum Auffinden von UMVUE nur auf diejenigen UE konzentrieren können, die eine ausreichende Statistik haben , dh UMVUE ist der Schätzer mit der geringsten Varianz unter allen UEs, die eine ausreichende Statistik haben. Daher ist UMVUE notwendigerweise eine Funktion einer ausreichenden Statistik.

MLE und UMVUE sind beide aus Sicht gut. Aber wir können niemals sagen, dass einer von ihnen besser ist als der andere. In der Statistik beschäftigen wir uns mit unsicheren und zufälligen Daten. Es gibt also immer Verbesserungspotential. Möglicherweise erhalten wir einen besseren Schätzer als MLE und UMVUE.

Ich denke, wir werden die UMVUE-Theorie in der Graduiertenschule nicht zu sehr betonen. Das ist nur meine persönliche Ansicht. Ich denke, die Abschlussphase ist eine Lernphase. Ein Doktorand muss also eine gute Grundlage für UMVUE und andere Schätzer haben.

Argha
quelle
1
Ich denke, jede gültige Folgerungstheorie ist gut zu wissen. Während Unparteilichkeit eine gute Eigenschaft sein kann, ist Voreingenommenheit nicht unbedingt schlecht. Wenn die Betonung auf UMVUEs gelegt wird, kann die Tendenz bestehen, "Optimalität" zuzuweisen. Es gibt jedoch möglicherweise keine sehr guten Schätzer in der Klasse der unverzerrten Schätzer. Genauigkeit ist wichtig und beinhaltet sowohl Verzerrung als auch Varianz. Was ist besser an der MLE ist, dass es Bedingungen gibt, unter denen gezeigt werden kann, dass es asymptotisch effizient ist.
Michael R. Chernick
Es ist zu beachten, dass der Rao-Blackwell-Satz auch verwendet werden kann, um jeden verzerrten Schätzer zu verbessern, wodurch ein verbesserter Schätzer mit derselben Verzerrung erzeugt wird.
kjetil b halvorsen
2

Vielleicht kann das Papier von Brad Efron "Maximum Likelihood and Decision Theory" helfen, dies zu klären. Brad erwähnte, dass eine der Hauptschwierigkeiten bei UMVUE darin besteht, dass es im Allgemeinen schwer zu berechnen ist und in vielen Fällen nicht existiert.

Jiantao Jiao
quelle