Wenn ein auto-regressives Zeitreihenmodell nicht linear ist, muss es dennoch stationär sein?

17

Denken Sie darüber nach, wiederkehrende neuronale Netze für die Vorhersage von Zeitreihen zu verwenden. Im Gegensatz zu ARMA- und ARIMA-Modellen, die lineare Auto-Regression verwenden, implementieren sie im Grunde genommen eine Art generalisierte nichtlineare Auto-Regression.

Wenn wir eine nichtlineare Auto-Regression durchführen, muss die Zeitreihe dennoch stationär sein, und müssen wir eine Differenzierung wie in ARIMA-Modellen vornehmen?

Oder kann das Modell aufgrund seines nichtlinearen Charakters nichtstationäre Zeitreihen verarbeiten?


Anders ausgedrückt: Liegt das Erfordernis der Stationarität (im Mittel und in der Varianz) für ARMA- und ARIMA-Modelle daran, dass diese Modelle linear sind, oder liegt es an etwas anderem?

Skander H. - Setzen Sie Monica wieder ein
quelle
Können Sie ein Beispiel für eine nichtlineare ARIMA nennen, an die Sie denken?
Aksakal
1
@Aksakal Ich denke nicht an eine "nicht lineare ARIMA", sondern eher an eine "Alternative zu ARIMA", die nicht linear ist - zum Beispiel die autoregressiven neuronalen Netze von Amazon DeepAR.
Skander H. - Reinstate Monica

Antworten:

15

Wenn der Zweck Ihres Modells Vorhersage und Prognose ist, lautet die kurze Antwort JA, aber die Stationarität muss nicht auf einer Ebene liegen.

Ich erkläre es. Wenn Sie das Prognostizieren auf die grundlegendste Form bringen, wird es die Extraktion der Invariante sein. Bedenken Sie Folgendes: Sie können nicht vorhersagen, was sich ändert. Wenn ich Ihnen sage, dass morgen in jeder Hinsicht anders sein wird als heute , können Sie keine Prognose abgeben .

Nur wenn Sie in der Lage sind, etwas von heute auf morgen auszudehnen, können Sie eine Prognose erstellen. Ich gebe Ihnen ein paar Beispiele.

  • x^t+1=xt
  • v=60xtvt
  • Dein Nachbar ist jeden Freitag betrunken. Wird er nächsten Freitag betrunken sein? Ja, solange er sein Verhalten nicht ändert
  • und so weiter

Bei jeder vernünftigen Prognose extrahieren wir zunächst etwas Konstantes aus dem Prozess und erweitern es auf die Zukunft. Daher meine Antwort: Ja, die Zeitreihen müssen stationär sein, wenn Varianz und Mittelwert die Invarianten sind, die Sie aus der Geschichte in die Zukunft ausdehnen werden. Außerdem möchten Sie, dass die Beziehungen zu Regressoren auch stabil sind.

Identifizieren Sie einfach, was in Ihrem Modell eine Invariante ist, ob es sich um eine mittlere Stufe, eine Änderungsrate oder etwas anderes handelt. Diese Dinge müssen in Zukunft gleich bleiben, wenn Ihr Modell eine Vorhersagekraft haben soll.

Holt Winters Beispiel

Holt Winters Filter wurde in den Kommentaren erwähnt. Es ist eine beliebte Option zum Glätten und Vorhersagen bestimmter Arten von Saisonreihen und kann auch mit nichtstationären Reihen umgehen. Insbesondere können Serien bearbeitet werden, bei denen der mittlere Pegel linear mit der Zeit wächst. Mit anderen Worten, wo die Steigung stabil ist . In meiner Terminologie ist die Steigung eine der Invarianten, die dieser Ansatz aus der Reihe extrahiert. Mal sehen, wie es versagt, wenn die Steigung instabil ist.

In diesem Plot zeige ich die deterministische Reihe mit exponentiellem Wachstum und additiver Saisonalität. Mit anderen Worten, die Steigung wird mit der Zeit immer steiler:

Bildbeschreibung hier eingeben

Sie können sehen, wie Filter sehr gut zu den Daten zu passen scheint. Die angepasste Linie ist rot. Wenn Sie jedoch versuchen, mit diesem Filter eine Vorhersage zu treffen, schlägt dies kläglich fehl. Die wahre Linie ist schwarz, und die rote, wenn sie mit blauer Konfidenz ausgestattet ist, begrenzt den nächsten Plot:

Bildbeschreibung hier eingeben

Der Grund, warum dies fehlschlägt, lässt sich anhand der Holt-Winters-Modellgleichungen leicht erkennen . Es extrahiert die Steigung aus der Vergangenheit und erstreckt sich auf die Zukunft. Dies funktioniert sehr gut, wenn die Steigung stabil ist, aber wenn der Filter konstant wächst, ist er einen Schritt zurück und der Effekt summiert sich zu einem zunehmenden Prognosefehler.

R-Code:

t=1:150
a = 0.04
x=ts(exp(a*t)+sin(t/5)*sin(t/2),deltat = 1/12,start=0)

xt = window(x,0,99/12)
plot(xt)
(m <- HoltWinters(xt))
plot(m)
plot(fitted(m))

xp = window(x,8.33)
p <- predict(m, 50, prediction.interval = TRUE)
plot(m, p)
lines(xp,col="black")

In diesem Beispiel können Sie möglicherweise die Filterleistung verbessern, indem Sie einfach ein Serienprotokoll erstellen. Wenn Sie einen Logarithmus mit exponentiell wachsenden Reihen verwenden, wird die Steigung wieder stabil und Sie geben diesem Filter eine Chance. Hier ist ein Beispiel:

Bildbeschreibung hier eingeben

R-Code:

t=1:150
a = 0.1
x=ts(exp(a*t)+sin(t/5)*sin(t/2),deltat = 1/12,start=0)

xt = window(log(x),0,99/12)
plot(xt)
(m <- HoltWinters(xt))
plot(m)
plot(fitted(m))

p <- predict(m, 50, prediction.interval = TRUE)
plot(m, exp(p))

xp = window(x,8.33)
lines(xp,col="black")
Aksakal
quelle
3
"Wenn Sie das Prognostizieren auf die grundlegendste Form bringen, wird es eine Extraktion der Invariante sein. Bedenken Sie Folgendes: Sie können nicht vorhersagen, was sich ändert. Wenn ich Ihnen sage, dass morgen in jedem denkbaren Aspekt anders sein wird als heute, werden Sie es nicht." in der Lage sein, jede Art von Prognose zu erstellen. " - Das ist eine nette Art, statistische Vorhersagen zu beschreiben, und eine, die ich vorher (explizit) nicht gesehen hatte: +1.
Firebug
1
"Die Zeitreihen müssen stationär sein, wenn Varianz und Mittelwert die Invarianten sind, die Sie aus der Geschichte in die Zukunft ausdehnen werden" - intuitiv ist dies sinnvoll -, aber an anderer Stelle in diesem Forum hat dies jemand (ich glaube, es war Rob Hyndman) erwähnt Einige Vorhersagemodelle, nämlich die exponentielle Glättung, funktionieren am besten, wenn die Daten nicht stationär sind.
Skander H. - Reinstate Monica
Fand den Thread stats.stackexchange.com/a/77076/89649
Skander H. - Reinstate Monica
1
Das hat +10 verdient!
kjetil b halvorsen
2
@Firebug, danke, die Konzepte von Invarianten und Symmetrien sind in der Physik wichtig. Zum Beispiel erinnern der Mittelwert und die Varianz der Stationarität an die zeitliche Symmetrie der Translation, die eine Vorhersage für die Zukunft ermöglicht.
Aksakal
0

Ich stimme auch @Aksakal zu, dass, wenn das primäre Ziel die Vorhersage ist, die Hauptmerkmale einer stationären Serie gelten müssen.

CRK
quelle
Könnten Sie etwas näher auf Ihren Punkt eingehen?
Jbowman