Negative Werte für AICc (korrigiertes Akaike-Informationskriterium)

39

Ich habe AIC und AICc berechnet, um zwei allgemeine lineare gemischte Modelle zu vergleichen. Die AICs sind positiv, wobei Modell 1 einen niedrigeren AIC als Modell 2 aufweist. Die Werte für AICc sind jedoch beide negativ (Modell 1 ist immer noch <Modell 2). Ist es gültig, negative AICc-Werte zu verwenden und zu vergleichen?

mixed-model model-selection aic Freya Harrison
quelle
Wann wurde AIC Minimum? Bitte antworte mir
Was bedeutet es, wenn der AIC von Modell 1 kleiner als Modell 2 ist? Ist Modell 1 näher an Null oder weiter entfernt von Null? Mit anderen Worten, wenn AIC von Modell 1 -390 ist und Modell 2 -450 hat, würde ich Modell 1 oder Modell 2 wählen?
Jens

Antworten:

46

Alles, was zählt, ist der Unterschied zwischen zwei AIC-Werten (oder besser AICc-Werten), die die Anpassung an zwei Modelle darstellen. Der tatsächliche Wert des AIC (oder AICc) und ob er positiv oder negativ ist, bedeutet nichts. Wenn Sie einfach die Einheiten ändern, in denen die Daten ausgedrückt werden, würde sich der AIC (und der AICc) dramatisch ändern. Der Unterschied zwischen dem AIC der beiden alternativen Modelle würde sich jedoch nicht ändern.

Fazit: Ignorieren Sie den aktuellen Wert von AIC (oder AICc) und ob er positiv oder negativ ist. Ignorieren Sie auch das Verhältnis zweier AIC- (oder AICc-) Werte. Achten Sie nur auf den Unterschied.

Harvey Motulsky
quelle
2
Ich fand alle Antworten auf diese Frage hilfreich, aber ich denke, dass dies die praktischste ist.
Freya Harrison
1
Ich bin verwirrt über die Bemerkung über das Ändern von Einheiten, da AIC per Definition uneinheitlich ist (es ist eine angepasste maximale Log-Wahrscheinlichkeit). Eine Änderung der Dateneinheiten würde die maximale Wahrscheinlichkeit überhaupt nicht ändern und würde daher auch den AIC nicht ändern. (Unabhängig davon kommt Ihre Empfehlung, nur auf den Unterschied zu achten, nicht in Frage.)
whuber
5
@whuber: Wenn die Daten kontinuierlich verteilt sind (was auch immer der Fall sein mag, je nachdem, ob das Originalposter wirklich "allgemein" oder "generalisiert" bedeutet), enthält die Wahrscheinlichkeitsdichte einen impliziten "Delta-x" -Term in der Tat von Einheitenwechsel betroffen. Siehe auch < emdbolker.wikidot.com/faq >
Ben Bolker
4
@ Ben Danke. Als ich das schrieb, war ich verwirrt zwischen dem AIC und dem Unterschied der AICs, weil ich dachte, das letztere sei das erstere. Es ist richtig, dass die Wahl der Einheiten eine multiplikative Konstante in die Wahrscheinlichkeit einführt. Daher hat die log- Wahrscheinlichkeit eine additive Konstante, die (nach dem Verdoppeln) zum AIC beiträgt. Die Differenz der AICs bleibt unverändert.
Whuber
27

AIC = -2Ln (L) + 2k

Dabei ist L der maximierte Wert der Wahrscheinlichkeitsfunktion für dieses Modell und k die Anzahl der Parameter im Modell.

In Ihrem Beispiel bedeutet -2Ln (L) + 2k <0, dass die log-Wahrscheinlichkeit am Maximum> 0 war, was bedeutet, dass die Wahrscheinlichkeit am Maximum> 1 war.

Es gibt kein Problem mit einer positiven Log-Wahrscheinlichkeit. Es ist ein weit verbreitetes Missverständnis, dass die Log-Wahrscheinlichkeit negativ sein muss. Wenn die Wahrscheinlichkeit aus einer Wahrscheinlichkeitsdichte abgeleitet wird, kann sie ziemlich vernünftigerweise 1 überschreiten, was bedeutet, dass die log-Wahrscheinlichkeit positiv ist, daher sind die Abweichung und der AIC negativ. Dies ist in Ihrem Modell der Fall.

Wenn Sie der Meinung sind, dass der Vergleich von AICs eine gute Methode zur Auswahl eines Modells ist, ist der (algebraisch) niedrigere AIC immer noch vorzuziehen, nicht der mit dem niedrigsten absoluten AIC-Wert. Zur Wiederholung möchten Sie die negativste Zahl in Ihrem Beispiel.

Graham Cookson
quelle
13

Im Allgemeinen wird davon ausgegangen, dass AIC (und damit AICc) bis zur Addition einer Konstanten definiert ist, sodass die Tatsache, ob es negativ oder positiv ist, überhaupt keine Bedeutung hat. Die Antwort lautet also ja, sie ist gültig.


quelle
Auch wenn die Konstante enthalten ist, kann der AIC (AICc) negativ sein.
Rob Hyndman
1
Das habe ich geschrieben.
5

Ja, es ist gültig, negative AICc-Werte auf dieselbe Weise zu vergleichen wie negative AIC-Werte. Der Korrekturfaktor im AICc kann bei kleiner Stichprobengröße und relativ vielen Parametern groß werden und schwerer als der AIC benachteiligt werden. Positive AIC-Werte können also negativen AICc-Werten entsprechen.

ars
quelle
0

Ja. Es ist gültig, AIC-Werte zu vergleichen, unabhängig davon, ob sie positiv oder negativ sind. Dies liegt daran, dass AIC als lineare Funktion (-2) der Log-Wahrscheinlichkeit definiert ist. Wenn die Wahrscheinlichkeit groß ist, ist Ihr AIC wahrscheinlich negativ, sagt aber nichts über das Modell selbst aus.

AICc ist ähnlich, die Tatsache, dass die Werte jetzt angepasst werden, ändert nichts.

Kleinschach
quelle