Sind eine Summe und ein Produkt zweier Kovarianzmatrizen auch eine Kovarianzmatrix?

12

Angenommen , ich habe Kovarianzmatrizen X und Y . Welche dieser Optionen sind dann auch Kovarianzmatrizen?

  1. X+Y
  2. X2
  3. XY

Ich habe ein bisschen Probleme zu verstehen, was genau benötigt wird, damit etwas eine Kovarianzmatrix ist. Ich nehme an, es ist gemeint, dass zum Beispiel, wenn X=cov(X1,X2) und Y=cov(Y1,Y2) , damit 1 wahr ist, wir diese cov(X1,X2)+cov(Y1,Y2)=cov(Z1,Z2) , wobeiZ1 undZ2 einige andere Zufallsvariablen sind. Ich kann jedoch nicht verstehen, warum dies für eine der drei Optionen gilt. Jeder Einblick wäre zu schätzen.

rbm
quelle

Antworten:

12

Hintergrund

Eine Kovarianzmatrix für einen Vektor von Zufallsvariablen X = ( X 1 , X 2 , , X n ) ' verkörpert eine Prozedur zum Berechnen der Varianz einer beliebigen linearen Kombination dieser Zufallsvariablen. Die Regel ist, dass für jeden Vektor von Koeffizienten λ = ( λ 1 , , λ n ) ,AX=(X1,X2,,Xn)λ=(λ1,,λn)

(1)Var(λX)=λAλ.

Mit anderen Worten beschreiben die Regeln der Matrixmultiplikation die Regeln der Varianzen.

Zwei Eigenschaften von sind unmittelbar und offensichtlich:A

  1. Da Abweichungen Erwartungen an quadratische Werte sind, können sie niemals negativ sein. So kann alle Vektoren , 0 Var ( λ X ) = λ A λ ' . Kovarianzmatrizen dürfen nicht negativ-definitiv sein.λ

    0Var(λX)=λAλ.
  2. Varianzen sind nur Zahlen - oder, wenn Sie die Matrixformeln wörtlich lesen, Matrizen. Sie ändern sich also nicht, wenn Sie sie transponieren. Das Transponieren von ( 1 ) ergibt λ A λ ' = Var ( λ X ) = Var ( λ X ) ' = ( λ A λ ' ) ' = λ A ' λ ' . Da dies für alle λ gilt , ist A.1×1(1)

    λAλ=Var(λX)=Var(λX)=(λAλ)=λAλ.
    λA muss seine Transponierte A ' gleich seinA : Kovarianzmatrizen müssen symmetrisch sein.

Das tiefere Ergebnis ist, dass jede nicht negativ-definierte symmetrische Matrix eine Kovarianzmatrix ist. A Dies bedeutet, dass es tatsächlich eine vektorwertige Zufallsvariable mit A als Kovarianz gibt. Wir können dies demonstrieren, indem wir X explizit konstruieren . Eine Möglichkeit ist zu bemerken , dass die (multivariate) Dichtefunktion f ( x 1 , ... , x n ) mit der Eigenschaft , log ( f ) α - 1XAXf(x1,,xn)hatAfür seine Kovarianz. (Eine gewisse Delikatesse ist erforderlich, wennAnicht invertierbar ist - aber das ist nur ein technisches Detail.)

log(f)12(x1,,xn)A1(x1,,xn)
AA

Lösungen

Sei und Y Kovarianzmatrizen. Offensichtlich sind sie quadratisch; und wenn ihre Summe irgendeinen Sinn ergeben soll, müssen sie die gleichen Dimensionen haben. Wir müssen nur die beiden Eigenschaften überprüfen.XY

  1. Die Summe.

    • Die Symmetrie zeigt, dass die Summe symmetrisch ist.
      (X+Y)=X+Y=(X+Y)
    • Nicht negative Bestimmtheit. Sei ein beliebiger Vektor. Dann beweist λ ( X + Y ) λ ' = λ X λ ' + λ Y λ '0 + 0 = 0 den Punkt unter Verwendung der grundlegenden Eigenschaften der Matrixmultiplikation.λ
      λ(X+Y)λ=λXλ+λYλ0+0=0
  2. Ich lasse das als Übung.

  3. 2×2

    (abba)
    a2b2a0XY
    X=(a11a)
    a1Y
    Y=(b001)
    b011

    XYab

whuber
quelle
13

Eine reelle Matrix ist genau dann eine Kovarianzmatrix, wenn sie symmetrisch positiv semidefinit ist.

Hinweise:

XYX+YzTXz0zzTYz0zzT(X+Y)z ?

2) Wenn XX2XX2

XYXY

Mark L. Stone
quelle