Ich habe in der Zusammenfassung dieses Papiers gelesen, dass:
"Das Maximum Likelihood (ML) -Verfahren von Hartley aud Rao wird durch Anpassen einer Transformation von Patterson und Thompson modifiziert, bei der die Wahrscheinlichkeitsrendernormalität in zwei Teile aufgeteilt wird, von denen einer frei von festen Effekten ist. Die Maximierung dieses Teils ergibt die sogenannte beschränkte Maximum Likelihood (REML) Schätzer. "
Ich habe auch in der Zusammenfassung dieses Papiers gelesen, dass REML:
"Berücksichtigt den Verlust an Freiheitsgraden, der sich aus der Schätzung fester Effekte ergibt."
Leider habe ich keinen Zugang zum vollständigen Text dieser Papiere (und würde es wahrscheinlich nicht verstehen, wenn ich es tun würde).
Was sind die Vorteile von REML gegenüber ML? Unter welchen Umständen kann REML bei der Anpassung eines Mixed-Effects-Modells gegenüber ML bevorzugt werden (oder umgekehrt)? Bitte geben Sie eine Erklärung an, die für jemanden mit einem mathematischen Hintergrund am Gymnasium (oder darüber hinaus) geeignet ist!
quelle
Antworten:
Gemäß der Antwort von ocram ist ML für die Schätzung von Varianzkomponenten voreingenommen. Beachten Sie jedoch, dass die Vorspannung bei größeren Stichproben kleiner wird. Als Antwort auf Ihre Fragen " ... was sind die Vorteile von REML gegenüber ML? Unter welchen Umständen kann REML gegenüber ML bevorzugt werden (oder umgekehrt), wenn ein Modell mit gemischten Effekten angepasst wird ? ", Für kleine Stichprobengrößen wird REML bevorzugt. Likelihood-Ratio-Tests für REML erfordern jedoch in beiden Modellen genau die gleichen Festeffektspezifikationen. Um Modelle mit unterschiedlichen festen Effekten (ein häufiges Szenario) mit einem LR-Test zu vergleichen, muss ML verwendet werden.
REML berücksichtigt die Anzahl der geschätzten (festen Effekte) Parameter, wobei jeweils 1 Freiheitsgrad verloren geht. Dies wird erreicht, indem ML auf die Residuen der kleinsten Quadrate angewendet wird, die von den festen Effekten unabhängig sind.
quelle
Hier ist eine schnelle Antwort ...
Standard illustratives Beispiel
Die REML-Schätzung wird häufig im komplexeren Kontext gemischter Modelle verwendet. Jedes Buch über gemischte Modelle enthält einen Abschnitt, in dem die REML-Schätzung ausführlicher erläutert wird.
Bearbeiten
@ Joe King: Hier ist eines meiner Lieblingsbücher über gemischte Modelle, das vollständig online verfügbar ist. Abschnitt 2.4.2 befasst sich mit der Schätzung von Varianzkomponenten. Viel Spaß beim Lesen :-)
quelle
Die ML-Methode unterschätzt die Varianzparameter, da sie davon ausgeht, dass die festen Parameter bei der Schätzung der Varianzparameter ohne Unsicherheit bekannt sind.
Die REML-Methode verwendet einen mathematischen Trick, um die Schätzungen für die Varianzparameter unabhängig von den Schätzungen für die festen Effekte zu machen. REML berechnet zunächst Regressionsreste für die Beobachtungen, die durch den Teil des Modells mit festen Effekten modelliert wurden, und ignoriert an dieser Stelle alle Varianzkomponenten.
ML-Schätzungen sind vorurteilsfrei für die festen Effekte, aber voreingenommen für die zufälligen Effekte, während die REML-Schätzungen vorurteilsfrei für die festen Effekte und vorurteilsfrei für die zufälligen Effekte sind.
quelle