Was sind die Nachteile der Profilwahrscheinlichkeit?

Betrachten wir einen Vektor von Parametern , mit den Parameter von Interesse, und ein Störparameter. $(\theta_1, \theta_2)$ $\theta_1$ $\theta_2$

Wenn die Wahrscheinlichkeit , dass aus den Daten aufgebaut ist , die Profil Wahrscheinlichkeit für ist definiert als wobei ist das MLE von $L(\theta_1, \theta_2 ; x)$ $x$ $\theta_1$ $L_P(\theta_1 ; x) = L(\theta_1, \hat{\theta}_2(\theta_1) ; x)$ $\hat{\theta}_2(\theta_1)$ $\theta_2$ für einen festen Wert von . $\theta_1$

Maximierung des LikelihoodProfil in Bezug auf auf gleiche Schätzung führt wie die durch Maximieren der Wahrscheinlichkeitgleichzeitig in Bezugerhalt und . $\bullet$ $\theta_1$ $\hat{\theta}_1$ $\theta_1$ $\theta_2$

Ich denkedie Standardabweichung von auch aus der zweiten Ableitung des Profils Wahrscheinlichkeit abgeschätzt werden kann. $\bullet$ $\hat{\theta}_1$

Die Wahrscheinlichkeit Statistik für kann bezüglich des Profils Wahrscheinlichkeit geschrieben werden: $\bullet$ $H_0: \theta_1 = \theta_0$ . $LR = 2 \log( \tfrac{L_P(\hat{\theta}_1 ; x)}{L_P(\theta_0 ; x)})$

Es scheint also, dass die Profilwahrscheinlichkeit genau so verwendet werden kann, als wäre es eine echte Wahrscheinlichkeit. Ist es wirklich so? Was sind die Hauptnachteile dieses Ansatzes? Und was ist mit dem 'Gerücht', dass der aus der Profilwahrscheinlichkeit erhaltene Schätzer voreingenommen ist (edit: sogar asymptotisch)?

maximum-likelihood likelihood profile-likelihood Ocram
quelle

Nur eine Anmerkung, die Schätzer aus der Wahrscheinlichkeit können auch voreingenommen sein, das klassische Beispiel ist die Schätzung der Wahrscheinlichkeitsvarianz für eine normale Stichprobe.

mpiktas

@mpiktas: Danke für deinen Kommentar. In der Tat kann das klassische mle auch voreingenommen sein. Ich werde die Frage bearbeiten, um die Dinge klarer zu machen.

22.

Was ist die assymptotische Voreingenommenheit? Sprechen Sie über nicht konsistente Schätzer?

mpiktas

@mpiktas: Ja, das hätte ich sagen sollen ...

22.

Antworten:

Die Schätzung von aus der Profilwahrscheinlichkeit ist nur die MLE. Das Maximieren in Bezug auf thgr für jedes mögliche und das anschließende Maximieren in Bezug auf ist dasselbe wie das gemeinsame Maximieren in Bezug auf . $\theta_1$ $\theta_2$ $\theta_1$ $\theta_1$ $(\theta_1, \theta_2)$

Der Schlüssel Schwäche ist , dass, wenn Sie Ihre Schätzung der SE von Basis auf die Krümmung des Profils Wahrscheinlichkeit, Sie sind die Buchführung nicht in vollem Umfang für die Unsicherheit in . $\hat{\theta}_1$ $\theta_2$

McCullagh und Nelder, Generalized Linear Models, 2. Auflage , haben einen kurzen Abschnitt über die Profilwahrscheinlichkeit (Abschnitt 7.2.4, S. 254-255). Man sagt:

[A] ungefähre Konfidenzsätze können auf übliche Weise erhalten werden. Solche Konfidenzintervalle sind häufig zufriedenstellend, wenn [die Dimension von ] im Verhältnis zur gesamten Fisher-Information klein ist, andernfalls jedoch irreführend ist. .. Leider ist [die Profil-Log-Wahrscheinlichkeit] keine Log-Wahrscheinlichkeitsfunktion im üblichen Sinne. Am offensichtlichsten ist, dass die Ableitung keinen Mittelwert von Null hat, eine Eigenschaft, die für die Schätzung von Gleichungen wesentlich ist. $\theta_2$

Karl
quelle

Ich danke Ihnen sehr für Ihre Antwort. Lassen Sie mich vor der Annahme noch etwas fragen. Was sind die Implikationen von

E \frac{\partial l_{P} (θ_{1})}{\partial θ_{1}} \neq 0

$E \frac{\partial l_P(\theta_1)}{\partial \theta_1} \neq 0$

22.

Interessante Frage, obwohl es eine Reise zum Bücherregal erforderte (was ich sowieso hätte tun sollen). Ich habe meiner Antwort zu diesem Punkt ein wenig hinzugefügt.

Karl

Vielen Dank für die Bearbeitung. Es wird gesagt, dass die Eigenschaft (die beim wahren Parameterwert bewertete Punktzahl hat den Mittelwert Null) für die Schätzung von Gleichungen wesentlich ist. Obwohl die Wahrscheinlichkeit des Profilprotokolls diese Eigenschaft nicht erfüllt, wird die MLE erstellt. Gibt es etwas, das ich vermisse?

23.

Diese Eigenschaft ist für die Bereitstellung des MLE nicht erforderlich.

Karl