AIC versus Likelihood Ratio Test bei der Auswahl von Modellvariablen

7

Die Software, die ich derzeit zum Erstellen eines Modells verwende, vergleicht ein "aktuelles Lauf" -Modell mit einem "Referenzmodell" und meldet (falls zutreffend) sowohl einen Chi-Quadrat-p-Wert basierend auf Likelihood-Ratio-Tests als auch AIC-Werte für jedes Modell. Ich weiß, dass ein Vorteil von AIC gegenüber Likelihood-Ratio-Tests darin besteht, dass AIC mit nicht verschachtelten Modellen verglichen werden kann. Mir ist jedoch kein Grund bekannt, warum AIC nicht mit verschachtelten Modellen verglichen werden konnte oder sollte. Wenn ich in meinem Modell verschachtelte Modelle für die Variablenauswahl vergleiche, finde ich mehrere Fälle, in denen der Likelihood-Ratio-Test und der AIC-Vergleich entgegengesetzte Schlussfolgerungen nahe legen.

Da beide auf Wahrscheinlichkeitsberechnungen basieren, habe ich Schwierigkeiten, diese Ergebnisse zu interpretieren. In der Dokumentation meiner Software heißt es jedoch (ohne es zu erklären):

"Wenn zwei Modelle verschachtelt sind (dh eines ist eine Teilmenge des anderen), ist der üblichere Chi-Quadrat-Test am besten geeignet. Wenn die Modelle nicht verschachtelt sind, kann der AIC verwendet werden ..."

Kann jemand näher darauf eingehen und / oder erklären, warum AIC nicht so hilfreich ist wie Likelihood-Ratio-Tests an verschachtelten Modellen?

feature-selection model-selection aic likelihood-ratio user42719
quelle
Die beste Antwort, die ich mir vorstellen kann, ist, dass der Likelihood-Ratio-Test ein tatsächlicher Test ist und die statistische Signifikanz der hinzugefügten Variablen getestet wird, die im verschachtelten Modell getestet wird. Wenn es angebracht ist, könnte man LRT mehr bevorzugen.
Greenparker
Scheint ihr beantwortet zu werden: stats.stackexchange.com/questions/20441/…
Greenparker
user42719, habe ich Ihre Frage beantwortet oder gibt es noch etwas, das Sie wissen müssen?
Richard Hardy
1
Es wurde kein Grund angegeben, ein Modell auszuwählen oder ein vollständiges Modell anzugeben und zu verwenden. Beachten Sie, dass AIC für die schrittweise Modellbildung nur einen anderen Grenzwert auf Ebene verwendet, sodass die Verwendung von AIC die schwerwiegenden Probleme bei der schrittweisen Analyse nicht löst. α
Frank Harrell
@ Greenparker Die Frage wird nicht beantwortet, da der Link verschachtelt und nicht verschachtelt ist. Hier kümmern wir uns nur verschachtelt.
HelloWorld

Antworten:

18

AIC und Likelihood Ratio Test (LRT) haben unterschiedliche Zwecke.

  • AIC sagt Ihnen, ob es sich lohnt, ein umfassenderes Modell zu haben, wenn Ihr Ziel darin besteht, den zugrunde liegenden Datengenerierungsprozess in Bezug auf die Kullback-Leibler-Entfernung so gut wie möglich zu approximieren.
  • LRT sagt Ihnen, ob Sie bei einem gewählten Konfidenzniveau die Hypothese ablehnen können, dass einige Einschränkungen für das reichhaltigere Modell gelten (z. B. sind einige Elemente im reicheren Modell redundant).

Sie würden AIC verwenden, wenn Ihr Ziel die Modellauswahl für die Prognose ist. Sie würden den Likelihood-Ratio-Test für Signifikanztests verwenden. Unterschiedliche Ziele erfordern unterschiedliche Werkzeuge.

Richard Hardy
quelle