Zustandsraumdarstellung von ARMA (p, q) aus Hamilton

11

r=max(p,q+1)

ytμ=ϕ1(yt1μ)+ϕ2(yt2μ)+...+ϕ3(yt3μ)+ϵt+θ1ϵt1+...+θr1ϵtr+1.

ξt+1=[ϕ1ϕ2ϕr1ϕr1000000010]ξt+[ϵt+100]

und die Beobachtungsgleichung als:

yt=μ+[1θ1θ2θr1]ξt.

Ich verstehe nicht, was das in diesem Fall ist. Denn in seiner AR (p) -Darstellung ist es und in seiner MA (1) -Darstellung ist es .[ y t - μ y t - 1 - μ y t - p + 1 - μ ] [ ϵ t ϵ t - 1 ]ξt[ytμyt1μytp+1μ][ϵtϵt1]

Könnte mir das jemand etwas besser erklären?

dleal
quelle

Antworten:

10

Hamilton zeigt, dass dies eine korrekte Darstellung im Buch ist, aber der Ansatz mag etwas eingängig erscheinen. Lassen Sie mich daher zunächst eine allgemeine Antwort geben, die seine Modellierungsentscheidung motiviert, und dann seine Ableitung etwas näher erläutern.

Motivation :

Wie aus dem Lesen von Kapitel 13 hervorgeht, gibt es viele Möglichkeiten, ein dynamisches Modell in Form eines Zustandsraums zu schreiben. Wir sollten uns daher fragen, warum Hamilton diese besondere Darstellung gewählt hat. Der Grund ist, dass diese Darstellung die Dimensionalität des Zustandsvektors niedrig hält. Intuitiv würden Sie denken (oder zumindest würde ich), dass der Zustandsvektor für eine ARMA ( , ) mindestens die Dimension . Schließlich können wir nur aus der Beobachtung von den Wert von ableiten . Er zeigt jedoch, dass wir die Zustandsraumdarstellung auf eine clevere Weise definieren können, die den Zustandsvektor der Dimension von höchstens verlässtq p + q y t - 1 ϵ t - 1 r = max { p , q + 1 } p qpqp+qyt1ϵt1r=max{p,q+1}. Es kann für die rechnerische Implementierung wichtig sein, die Zustandsdimensionalität niedrig zu halten. Es stellt sich heraus, dass seine Zustandsraumdarstellung auch eine schöne Interpretation eines ARMA-Prozesses bietet: Der unbeobachtete Zustand ist ein AR ( ), während der MA ( ) -Teil aufgrund eines Messfehlers entsteht.pq

Ableitung :

Nun zur Ableitung. Beachten Sie zunächst, dass unter Verwendung der Lag-Operator-Notation der ARMA (p, q) definiert ist als: wobei wir für und für und weglassen, da mindestens . Wir müssen also nur zeigen, dass seine Zustands- und Beobachtungsgleichungen die obige Gleichung implizieren. Lassen Sie den Zustandsvektor sein nun auf der Suche Zustandsgleichung. Sie können die Gleichungen bis überprüfenϕ j = 0 j > p θ j = 0 j > q & thgr ; r r q + 1

(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)ϵt
ϕj=0j>pθj=0j>qθrrq+1 2r
ξt={ξ1,t,ξ2,t,,ξr,t}
2rBewegen Sie einfach die Einträge zu eine Periode vor und Verwerfen in dem Zustandsvektor bei . Die erste Gleichung, die ist daher die relevante. Schreiben Sie es auf: Da das zweite Element von das erste Element von und das dritte Element von ist das erste Element von ξ i - 1 , t + 1 ξ r , t t + 1 ξ i , t + 1 ξ 1 , t + 1 = ϕ 1 ξ 1 , t + ϕ 2 ξ 2 , t + + ϕ r ξ r , t + ϵ t + 1 ξ tξi,tξi1,t+1ξr,tt+1ξi,t+1
ξ1,t+1=ϕ1ξ1,t+ϕ2ξ2,t++ϕrξr,t+ϵt+1
ξt ξ t ξ t - 2ξt1ξtξt2und so weiter können wir dies umschreiben, indem wir die Notation des Verzögerungsoperators verwenden und das Verzögerungspolynom nach links verschieben (Gleichung 13.1.24 in H.): Der verborgene Zustand folgt also einem autoregressiven Prozess. In ähnlicher Weise lautet die Beobachtungsgleichung oder Dies sieht bisher nicht sehr nach einem ARMA aus, aber jetzt kommt das schöner Teil: Multipliziere die letzte Gleichung mit : y t = μ + ξ 1 , t + θ 1 ξ 2 , t + + θ r - 1 ξ r - 1 , t y t - μ = ( 1
(1ϕ1LϕrLr)ξ1,t+1=ϵt+1
yt=μ+ξ1,t+θ1ξ2,t++θr1ξr1,t
ytμ=(1+θ1L++θr1Lr1)ξ1,t
(1ϕ1LϕrLr)
(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)(1ϕ1LϕrLr)yt
Aber aus der Zustandsgleichung (um eine Periode verzögert) haben wir ! Das Obige ist also äquivalent zu das ist genau das, was wir zeigen mussten! Das Zustandsbeobachtungssystem repräsentiert also die ARMA korrekt (p, q). Ich habe Hamilton wirklich nur paraphrasiert, aber ich hoffe, dass dies trotzdem nützlich ist.(1ϕ1LϕrLr)ξ1,t=ϵt
(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)ϵt
Matthias Schmidtblaicher
quelle
Ich bin jedoch nicht ganz begeistert von der Interpretation des Staates. Wenn Sie die erste Zeile der Zustandsübergangsgleichung schreiben, scheint dies eine Gleichung zu sein, die mit dem angenommenen Modell in Konflikt steht. Ich finde es auch seltsam, dass Sie davon ausgehen, dass beobachtete Daten gleichzeitig verborgen / latent sind.
Taylor
Sie haben Recht, der Zustand ist in der Tat nicht der gleiche wie . Vielen Dank für den Hinweis. Ich habe es korrigiert, sollte jetzt in Ordnung sein. Übrigens hätten wir im Allgemeinen Variablen im Zustandsvektor beobachten können, siehe zum Beispiel das AR (p) -Beispiel. Dort kann man sich die versteckte Variable als den Wert der nächsten Periode vorstellen, . ytyt+1
Matthias Schmidtblaicher
Vielen Dank! Aber ich bin immer noch verwirrt darüber, was in dieser Zustandsraumdarstellung ist. Nicht zum Beispiel seine Definition von in Gleichung 13.1.15 und 13.1.14 für und AR (p) und MA (1) Prozess. Meine Verwirrung ist, wenn ich dies in Matlab setze, welche Zahlen bekomme ich in ? ξξξ
dleal
Was hier verwirrend ist, ist, dass sich die Modellierung des Zustandsraums mit einem verborgenen Zustand befasst, während wir bei ARMA-Prozessen Variablen nicht als verborgen betrachten. Die Zustandsraumdarstellung und die (Kalman) Filtertechniken werden durch Herausfiltern des nicht beobachteten Zustands motiviert. Für ARMA-Prozesse verwenden wir nur die Formulierung von Zustandsraummodellen, damit wir die Parameter mithilfe des Kalman-Filters schätzen können. Daher definieren wir den verborgenen Zustand in 13.1.4 etwas willkürlich als Beobachtung nächsten Periode, während der Zustand in 13.1.22 eine neue Variable ist, die im ursprünglichen Modell nicht erscheint. yt+1
Matthias Schmidtblaicher
Um Ihre Frage zu Matlab zu beantworten: Wenn Sie von einem ARMA (p, q) ausgehen, ist keine Variable, die in diesem Modell angezeigt wird. Die Zustandsraumdarstellung bietet jedoch tatsächlich eine andere Interpretation des ARMA (p, q): Der verborgene Zustand könnte die Variable sein, an der Sie interessiert sind, und die MA (q) -Struktur entsteht aufgrund eines Messfehlers. Sie können einen AR (1) aufschreiben und etwas weißes Rauschen hinzufügen, um zu sehen, dass eine ARMA-Struktur entsteht. ξ
Matthias Schmidtblaicher
8

Dies ist das gleiche wie oben, aber ich dachte, ich würde eine kürzere, präzisere Antwort geben. Dies ist wiederum Hamiltons Darstellung für einen kausalen ARMA ( , ) -Prozess, wobei . Diese Zahl ist die Dimension des Zustandsvektors und wird benötigt, um die Anzahl der Zeilen der zu Der Status stimmt mit der Anzahl der Spalten der Beobachtungsmatrix überein. Das heißt, wir müssen auch die Koeffizienten auf Null setzen, wenn der Index zu groß ist.pqr=max(p,q+1)r(ξt,ξt1,,ξtr+1)

  1. Beobachtungsgleichung

ϕ(B)(ytμ)=θ(B)ϵt(causality)(ytμ)=ϕ1(B)θ(B)ϵtyt=μ+ϕ1(B)θ(B)ϵtyt=μ+θ(B)ϕ1(B)ϵt(letting ξt=ϕ1(B)ϵt)yt=μ+θ(B)ξt(this is where we need r)yt=μ+[1θ1θ2θr1][ξtξt1ξtr+1]the state vector+0.
  1. Zustandsgleichung

ξt=ϕ1(B)ϵtϕ(B)ξt=ϵt(1ϕ1BϕrBr)ξt=ϵtξt=ϕ1ξt1++ϕrξtr+ϵt[ξtξt1ξt2ξtr+1]=[ϕ1ϕ2ϕ3ϕr1000010000010][ξt1ξt2ξtr]+[ϵt00].
Taylor
quelle
1
Dies macht endlich klar, woher diese Zustandsgleichungen kommen. Ich denke, es so zu sagen, ist didaktisch viel besser, als nur diese zufällig erscheinenden Gleichungen mit dem Hinweis zu versehen, dass es sich als richtig herausstellt.
Alex
@CowboyTrader ja, das stimmt. Zumindest für diese ARMA-Darstellung. Es gibt einige andere.
Taylor
@CowboyTrader nein, aber ich würde sagen, dass dies ein vernünftiges Gefühl ist, da die Literatur zu Zustandsraummodellen auf Filterung ausgerichtet ist. Es gibt rekursive Vorhersagegleichungen für lineare Gaußsche Zustandsraummodelle, aber Sie erhalten das Filtermaterial als zusätzlichen Bonus.
Taylor
@CowboyTrader zögern Sie nicht, mir eine E-Mail zu senden. Ich weiß, dass nicht jeder ausführliche Diskussionen in Kommentaren liebt, daher könnte es einfacher sein, dies zu tun.
Taylor
Ich sehe, dass es bewiesen ist, aber könnten Sie bitte helfen, etwas Intuition zu geben? Was sind die Zustandsvariablen, was ist der Zustandsvektor t = 0?
Frank