AIC & BIC Nummerninterpretation

23

Ich suche Beispiele für die Interpretation von AIC-Schätzungen (Akaike-Informationskriterium) und BIC-Schätzungen (Bayes-Informationskriterium).

Kann ein negativer Unterschied zwischen BICs als hintere Gewinnchance eines Modells gegenüber dem anderen interpretiert werden? Wie kann ich das in Worte fassen? Zum Beispiel kann der BIC = -2 bedeuten, dass die Chancen des besseren Modells gegenüber dem anderen Modell ungefähr .e2=7.4

Jeder grundlegende Rat wird von diesem Neuling geschätzt.

Juan
quelle
Werfen Sie einen Blick auf Kapitel 2. Abschnitt 2.6 - der teilweise in Google Books verfügbar ist - könnte Ihnen dabei helfen. books.google.se/… (Referenz: Modellauswahl und Inferenz
mehrerer

Antworten:

6

fürModell i einesaprioriModellsatzes zu recaled werden kann Δ i = A I C i - m i n A I C , wo das beste Modell des Modellsatzes wird Δ = 0 . Wir können die Δ i -Werte verwenden, um die Beweiskraft ( w i ) für alle Modelle in der Modellmengezu schätzen, wobei gilt: w i = e ( - 0,5 Δ i )AICiΔi=AICiminAICΔ=0Δiwi Dies wird oft als das "Beweisgewicht" für das Modelli bezeichnet,wenn dasA-priori-Modellsatzgegeben ist. WennΔizunimmt, nimmtwiab, was nahelegt, dass das Modelliweniger plausibel ist. Diesewi-Werte können als die Wahrscheinlichkeit interpretiert werden, dass das Modellidas beste Modell ist, wenn dieMengedera priori-Modelle gegeben ist. Wir könnten auch die relative Wahrscheinlichkeit von Modelligegenüber Modelljalsberechnen

wi=e(0.5Δi)r=1Re(0.5Δi).
iΔiwiiwiiij . Wenn zum Beispiel w i = 0,8 und w j = 0,1 ist, könnte man sagen, dass das Modell i 8-mal wahrscheinlicher ist als das Modell j .wi/wjwi=0.8wj=0.1ij

Es ist zu beachten, dass wenn Modell 1 das beste Modell ist (kleinstes A I C ). Burnham und Anderson (2002) bezeichnen dies als Evidenzrate. Diese Tabelle zeigt, wie sich die Evidenzrate im Vergleich zum besten Modell ändert.w1/w2=e0.5Δ2AIC

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Referenz

Burnham, KP und DR Anderson. 2002. Modellauswahl und Multimodell-Inferenz: ein praktischer informationstheoretischer Ansatz. Zweite Ausgabe. Springer, New York, USA.

Anderson, DR 2008. Modellbasierte Folgerung in den Biowissenschaften: ein Primer auf Beweisen. Springer, New York, USA.

RioRaider
quelle
Würde es Ihnen etwas ausmachen zu klären, worauf sich bezieht, insbesondere da der Index der Summe nicht in der Summation enthalten ist? Spannt R den Modellraum? rR
Dopexxx
Das Modellset enthält R-Modelle.
RioRaider
3

Ich glaube nicht, dass es so eine einfache Interpretation von AIC oder BIC gibt. Beides sind Größen, die die Log-Wahrscheinlichkeit annehmen und eine Strafe für die Anzahl der zu schätzenden Parameter auferlegen. Die spezifischen Strafen für AIC werden von Akaike in seinen Arbeiten erklärt, die 1974 beginnen. BIC wurde von Gideon Schwarz in seiner Arbeit von 1978 ausgewählt und ist durch ein Bayes'sches Argument motiviert.

Michael R. Chernick
quelle
2
Die Strafe kann jedoch als eine vorherige Bevorzugung von Modellen einer bestimmten Größe interpretiert werden. Wenn Sie diesen Prior übernehmen (der einige informationstheoretische Begründungen hat), können Sie ein posteriores Odds Ratio direkt aus den IC-Werten berechnen. @RioRaider erwähnt auch Akaike-Gewichte, die Ihnen die Wahrscheinlichkeit geben, dass ein bestimmtes Modell in Bezug auf die KL-Divergenz das beste Modell aus der Menge ist. ( Ref --see p. 800).
David J. Harris
1

Sie verwenden den BIC wahrscheinlich als Ergebnis der Annäherung an den Bayes-Faktor. Daher ziehen Sie eine vorherige Verteilung (mehr oder weniger) nicht in Betracht. BIC in einer Modellauswahlphase ist hilfreich, wenn Sie die Modelle vergleichen. Um den BIC und den Bayes-Faktor vollständig zu verstehen, empfehle ich dringend, einen Artikel (Abschnitt 4) zu lesen: http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf , um das Wissen zu ergänzen durch: http: // www .stat.washington.edu / raftery / Research / PDF / kass1995.pdf

Robert
quelle