Allgemeine Theoreme für Konsistenz und asymptotische Normalität maximaler Wahrscheinlichkeit

10

Ich interessiere mich für eine gute Referenz für Ergebnisse bezüglich asymptotischer Eigenschaften von Maximum-Likelihood-Schätzern. Betrachten wir ein Modell wobei f n ( x | θ ) ist eine n -dimensionale Dichte und θ n ist die MLE basierend auf einer Probe X 1 , ... , X n von f n ( | & thgr;{fn(θ):θΘ,nN}fn(xθ)nθ^nX1,,Xn wobei θ 0 der "wahre" Wert von θ ist . Es gibt zwei Unregelmäßigkeiten, die mich interessieren.fn(θ0)θ0θ

  1. Die Daten sind nicht iid und infolgedessen fallen die Fisher-Informationen über θ langsamer an als n .X1,,Xnθn
  2. ist eine beschränkte Menge und mit positiver Wahrscheinlichkeit θ n liegt an der Grenze. Die Grenze entspricht einem "einfacheren" Modell, und daher besteht ein besonderes Interesse daran, ob θ 0 an der Grenze liegtoder nicht.Θθ^nθ0

Meine besonderen Fragen sind

  1. Lassen Sie die beobachtete Fisher-Information bezeichnen, die θ entspricht , und nehmen Sie an , dass θ 0 im Inneren von Θ liegt . Unter welchen Bedingungen ist [ J n ( θ n ) ] 1 / 2 ( θ n - θ 0 ) asymptotisch normal wie n ? Insbesondere sind die Regelmäßigkeitsbedingungen den üblichen ähnlich, wobei die relevante Modifikation J n ist (Jn(θ)θθ0Θ

    [Jn(θ^n)]1/2(θ^nθ0)
    ningewissen Sinne?Jn(θ^n)
  2. θ0θ^n=θ0Yij=μ+βi+ϵijσ^β2=0θ^nθ0θ^n=θ0

Auch hier wäre nur ein Zeiger auf einen Text mit Ergebnissen auf dieser Ebene der Allgemeinheit sehr willkommen.

Kerl
quelle

Antworten:

7

Referenzen, von denen Sie ausgehen können:

Für den Fall, dass der wahre Parameter an der Grenze liegt :
Moran (1971) "Maximum-Likelihood-Schätzung unter nicht standardmäßigen Bedingungen"

Steven G. Self und Kung-Yee Liang (1987) "Asymptotische Eigenschaften von Maximum-Likelihood-Schätzern und Likelihood-Ratio-Tests unter nicht standardmäßigen Bedingungen"

Ziding Feng und Charles E. McCulloch (1990) "Statistische Inferenz unter Verwendung der Maximum-Likelihood-Schätzung und des generalisierten Likelihood-Verhältnisses, wenn sich der wahre Parameter an der Grenze des Parameterraums befindet"

Für nicht identische, aber unabhängige Wohnmobile :
Bruce Hoadley (1971) "Asymptotische Eigenschaften von Maximum-Likelihood-Schätzern für den unabhängigen, nicht identisch verteilten Fall"

Für abhängige Wohnmobile:
Martin J. Crowder (1976) "Maximum Likelihood Estimation for Dependent Observations"

Ebenfalls

Huber, PJ (1967). "Das Verhalten von Maximum-Likelihood-Schätzungen unter nicht standardmäßigen Bedingungen" . In Proceedings des fünften Berkeley-Symposiums über mathematische Statistik und Wahrscheinlichkeit (Band 1, Nr. 1, S. 221-233).

Update 17-03-2017: Wie in einem Kommentar vorgeschlagen, kann hier auf das folgende Dokument verwiesen werden

Andrews, DW (1987). Konsistenz in nichtlinearen ökonometrischen Modellen: Ein generisches einheitliches Gesetz großer Zahlen. Econometrica: Zeitschrift der Econometric Society, 1465-1471.

Alecos Papadopoulos
quelle
Schauen Sie sich die Diskussion hier an: andrewgelman.com/2012/07/05/…
kjetil b halvorsen
1
(+1) Ich habe diese Referenzen gut genutzt. Es kann nützlich sein, auch Andrews, 1987 ( jstor.org/stable/1913568 ) aufzunehmen. Insbesondere "... weist darauf hin, dass eine häufig verwendete einheitliche LLN aufgrund von Hoadley (1971, Satz A.5) nur für begrenzte Zufallsvariablen gilt."
Ekvall