Wann ist es angebracht, Modelle durch Minimierung des AIC auszuwählen?

Zumindest unter Statistikern höheren Kalibers ist es allgemein bekannt, dass Modelle mit Werten der AIC-Statistik innerhalb eines bestimmten Schwellenwerts des Mindestwerts als angemessen angesehen werden sollten wie das Modell zur Minimierung der AIC-Statistik. Zum Beispiel finden wir in [1, S.221]

Dann wären Modelle mit kleinem GCV oder AIC am besten geeignet. Natürlich sollte man GCV oder AIC nicht einfach blind minimieren. Vielmehr sollten alle Modelle mit relativ kleinen GCV- oder AIC-Werten als potenziell angemessen angesehen und nach ihrer Einfachheit und wissenschaftlichen Relevanz bewertet werden.

In ähnlicher Weise haben wir in [2, S.144]

Es wurde vorgeschlagen (Duong, 1984), Modelle mit AIC-Werten innerhalb von c des Mindestwerts als wettbewerbsfähig zu betrachten (mit c = 2 als typischem Wert). Die Auswahl aus den Wettbewerbsmodellen kann dann auf Faktoren wie dem Weißgrad der Residuen (Abschnitt 5.3) und der Einfachheit des Modells basieren.

Verweise:

1. Ruppert, D.; Wand, MP & Carrol, RJ Semiparametric Regression , Cambridge University Press, 2003
2. Brockwell, PJ & Davis, RA Einführung in Zeitreihen und Prognosen , John Wiley & Sons, 1996

Welches der beiden folgenden Modelle sollte angesichts der obigen Ausführungen bevorzugt werden?

print( lh300 <- arima(lh, order=c(3,0,0)) )
# ... sigma^2 estimated as 0.1787:  log likelihood = -27.09,  aic = 64.18
print( lh100 <- arima(lh, order=c(1,0,0)) )
# ... sigma^2 estimated as 0.1975:  log likelihood = -29.38,  aic = 64.76

Wann ist es allgemein angemessen, Modelle auszuwählen, indem der AIC oder die zugehörige Statistik blind minimiert werden?

Wenn Sie aus Cosma Shalizis Vorlesungsskripten über die Wahrheit über lineare Regression umschreiben , sollten Sie niemals ein Modell wählen, nur weil es zufällig eine Statistik wie AIC minimiert hat , z

Every time someone solely uses an AIC statistic for model selection, an angel loses its
wings. Every time someone thoughtlessly minimises it, an angel not only loses its wings,
but is cast out of Heaven and falls in most extreme agony into the everlasting fire.

Ich würde sagen, dass es oft angemessen ist, AIC bei der Modellauswahl zu verwenden, aber selten richtig, es als alleinige Grundlage für die Modellauswahl zu verwenden. Wir müssen auch fundiertes Wissen verwenden.

In Ihrem speziellen Fall vergleichen Sie ein Modell mit einem AR 3. Ordnung mit einem Modell mit einem AR 1. Ordnung. Zusätzlich zu AIC (oder etwas Ähnlichem) würde ich mir die Autokorrelations- und partiellen Autokorrelationsdiagramme ansehen. Ich würde auch überlegen, was ein Modell 3. Ordnung bedeuten würde . Macht das Sinn? Fügt es dem materiellen Wissen hinzu? (Oder hilft es bei der Vorhersage, wenn Sie ausschließlich an Vorhersagen interessiert sind?)

Im Allgemeinen ist es manchmal interessant, eine sehr kleine Effektgröße zu finden.

$P$$P$