Wie berechnet man Standardfehler für eine Transformation des MLE?

9

Ich muss auf einen positiven Parameter . Um die Positivität zu berücksichtigen, habe ich parametrisiert . Unter Verwendung der MLE-Routine berechnete ich die Punktschätzung und se für . Die Invarianzeigenschaft des MLE gibt mir direkt eine Punktschätzung für , aber ich bin nicht sicher, wie ich se für berechnen soll . Vielen Dank im Voraus für jeden Vorschlag oder Hinweis.p = exp ( q ) q p ppp=exp(q)qpp

Marcel
quelle
Können Sie nicht dieselbe MLE-Routine verwenden, um eine Punktschätzung zu berechnen und direkt zu sehen? p
whuber

Antworten:

20

Zu diesem Zweck wird die Delta-Methode verwendet. Unter einigen Standard- Regelmäßigkeitsannahmen wissen wir, dass die MLE für ungefähr (dh asymptotisch) verteilt ist als & thgr;θ^θ

θ^N(θ,I1(θ))

Dabei ist die Umkehrung der Fisher-Information für die gesamte Stichprobe, ausgewertet bei und bezeichnet die Normalverteilung mit Mittelwert und Varianz . Die funktionale Invarianz des MLE besagt, dass der MLE von , wobei eine bekannte Funktion ist, (wie Sie betont haben) und eine ungefähre Verteilung aufweistθN(μ, & sgr; 2 )μ & sgr; 2 g(θ)gg( θ )I1(θ)θN(μ,σ2)μσ2g(θ)gg(θ^)

g(θ^)N(g(θ),I1(θ)[g(θ)]2)

Hier können Sie konsistente Schätzer für die unbekannten Größen einstecken (dh wobei in der Varianz erscheint). Ich würde annehmen, dass die Standardfehler, die Sie haben, auf den Fisher-Informationen basieren (da Sie MLEs haben). Bezeichne diesen Standardfehler mit . Dann ist der Standardfehler von , wie in Ihrem Beispiel θse θθ^θseθ^

s2e2θ^

Ich kann Sie rückwärts interpretieren und in Wirklichkeit haben Sie die Varianz des MLE von und möchten die Varianz des MLE von In diesem Fall wäre der Standardlog ( θ )θlog(θ)

s2/θ^2
Makro
quelle
1
Nur eine Randnotiz: Es gibt auch geeignete multivariate Erweiterungen, bei denen die Ableitungen durch Gradienten ersetzt werden und die Multiplikationen Matrixmultiplikationen sein müssen, sodass es etwas mehr Kopfschmerzen gibt, herauszufinden, wohin die Transponierung geht.
StasK
1
Vielen Dank für den Hinweis auf StasK. Ich glaube an die multivariate Fall die asymptotische Kovarianz istg ( θ ) ' I ( θ ) - 1g ( θ )g(θ^)g(θ)I(θ)1g(θ)
Makro
(+1) Ich habe einen Link zu den Regelmäßigkeitsannahmen (und einigen anderen Dingen) hinzugefügt, da nicht klar ist, ob diese im OP-Problem erfüllt sind. Ich hätte sagen können , dass ist asymptotisch normal und nicht annähernd normal, da die Konvergenzraten langsam manchmal sein können. θ^
MånsT
Vielen Dank @ MånsT, ich habe auch klargestellt, dass ich asymptotisch meinte, als ich ungefähr sagte :)
Makro
6

Das Makro gab die richtige Antwort, wie Standardfehler mithilfe der Delta-Methode transformiert werden können. Obwohl das OP speziell nach den Standardfehlern gefragt hat, vermute ich, dass das Ziel darin besteht, Konfidenzintervalle für zu erstellen . Neben der Berechnung der geschätzten Standardfehler von Sie ein Konfidenzintervall in der Parametrisierung direkt in ein Konfidenzintervall in -Parametrisierung. Dies ist vollkommen gültig, und es kann sogar eine bessere Idee sein, abhängig davon, wie gut die normale Näherung, die verwendet wird, um ein Konfidenzintervall basierend auf Standardfehlern zu rechtfertigen, bei der Parametrisierung gegenüber dem funktioniertp [ q 1 , q 2 ] q [ exp ( q 1 ) , exp ( q 2 ) ] p q ppp^[q1,q2]q[exp(q1),exp(q2)]pqp-Parametrisierung. Darüber hinaus erfüllt das direkt transformierte Konfidenzintervall die Positivitätsbeschränkung.

NRH
quelle