Das Wesentliche meiner Frage ist:
Sei eine multivariate normale Zufallsvariable mit Mittelwert und Kovarianzmatrix . Sei , dh . Wie vergleiche ich den AIC eines Modells, das mit beobachteten Realisierungen von übereinstimmt, mit einem Modell, das mit beobachteten Realisierungen von ? μ Σ Z : = log ( Y ) Z i = log ( Y i ) , i ∈ { 1 , … , n } Y Z
Meine anfängliche und etwas längere Frage:
Sei eine multivariate normale Zufallsvariable. Wenn ich eine Modellanpassung an einer Modellanpassung an vergleichen möchte , könnte ich ihre Log-Wahrscheinlichkeiten untersuchen. Da diese Modelle jedoch nicht verschachtelt sind, kann ich die Log-Wahrscheinlichkeiten (und solche wie AIC usw.) nicht direkt vergleichen, sondern muss sie umwandeln.Y log ( Y )
Ich weiß, dass wenn Zufallsvariablen mit gemeinsamen pdf und wenn für Eins-zu-Eins-Transformationen und , dann ist das pdf von gegeben durch wobei J der mit der Transformation verbundene Jacobian ist. g ( x 1 , ... , x n ) Y i = t i ( X 1 , ... , X n ) t i i ∈ { 1 , ... , n } Y 1 , ... , Y n f ( y 1 , … , y n ) = g
Muss ich zum Vergleichen einfach die Transformationsregel verwenden?
oder gibt es noch etwas was ich tun kann?
[edit] Ich habe vergessen, Logarithmen in die letzten beiden Ausdrücke einzufügen.
Antworten:
Sie können den AIC oder BIC nicht vergleichen, wenn Sie zwei verschiedene Datensätze, dh und anpassen . Sie können nur zwei Modelle vergleichen, die auf AIC oder BIC basieren, wenn sie zu demselben Datensatz passen. Schauen Sie sich Modellauswahl und Multi-Modell-Inferenz an: Ein praktischer informationstheoretischer Ansatz (Burnham und Anderson, 2004). Sie erwähnten meine Antwort auf Seite 81 (Abschnitt 2.11.3 Transformationen der Antwortvariablen):Y. Z
Übrigens müssen Ihre Modelle für die Verwendung der AIC- oder BIC-Kriterien nicht unbedingt verschachtelt sein (dieselbe Referenz, Seite 88, Abschnitt 2.12.4 Nicht verschachtelte Modelle), und dies ist einer der Vorteile der Verwendung von BIC.
quelle
Akaike (1978, S. 224) beschreibt, wie der AIC in Gegenwart einer transformierten Ergebnisvariablen angepasst werden kann, um einen Modellvergleich zu ermöglichen. Er führt aus: „Der Effekt der Transformation der Variablen wird einfach durch die Multiplikation der Wahrscheinlichkeit des entsprechenden Jacobi mit dem AIC dargestellt. Für den Fall von ist dies −2 , wobei sich die Summe über . "⋅ & Sigma; l o g { y ( n ) + 1 } n = 1 , 2 , . . . , Nl o g{ y( n ) + 1 } ⋅ & Sgr; l o g{ y( n ) + 1} n = 1 , 2 , . . . , N
Akaike, H. 1978. "Zur Wahrscheinlichkeit eines Zeitreihenmodells", Journal of the Royal Statistical Society, Reihe D (The Statistician), 27 (3/4), S. 217–235.
quelle