Sind eine Summe und ein Produkt zweier Kovarianzmatrizen auch eine Kovarianzmatrix?

Angenommen , ich habe Kovarianzmatrizen $X$ und $Y$ . Welche dieser Optionen sind dann auch Kovarianzmatrizen?

1. $X+Y$
2. $X^2$
3. $XY$

---

Ich habe ein bisschen Probleme zu verstehen, was genau benötigt wird, damit etwas eine Kovarianzmatrix ist. Ich nehme an, es ist gemeint, dass zum Beispiel, wenn $X=\operatorname{cov}(X_1,X_2)$ und $Y=\operatorname{cov}(Y_1,Y_2)$ , damit 1 wahr ist, wir diese $\operatorname{cov}(X_1,X_2) + \operatorname{cov}(Y_1,Y_2) = \operatorname{cov}(Z_1, Z_2)$ , wobei$Z_1$ und$Z_2$ einige andere Zufallsvariablen sind. Ich kann jedoch nicht verstehen, warum dies für eine der drei Optionen gilt. Jeder Einblick wäre zu schätzen.

Hintergrund

Eine Kovarianzmatrix für einen Vektor von Zufallsvariablen X = ( X 1 , X 2 , … , X n ) ' verkörpert eine Prozedur zum Berechnen der Varianz einer beliebigen linearen Kombination dieser Zufallsvariablen. Die Regel ist, dass für jeden Vektor von Koeffizienten λ = ( λ 1 , … , λ n ) ,$\mathbb{A}$$X=(X_1, X_2, \ldots, X_n)^\prime$$\lambda = (\lambda_1, \ldots, \lambda_n)$

$$\operatorname{Var}(\lambda X) = \lambda \mathbb{A} \lambda ^\prime.\tag{1}$$

Mit anderen Worten beschreiben die Regeln der Matrixmultiplikation die Regeln der Varianzen.

Zwei Eigenschaften von sind unmittelbar und offensichtlich:$\mathbb{A}$

1. Da Abweichungen Erwartungen an quadratische Werte sind, können sie niemals negativ sein. So kann alle Vektoren , 0 ≤ Var ( λ X ) = λ A λ ' . Kovarianzmatrizen dürfen nicht negativ-definitiv sein.$\lambda$

   $$0 \le \operatorname{Var}(\lambda X) = \lambda \mathbb{A} \lambda ^\prime.$$

2. Varianzen sind nur Zahlen - oder, wenn Sie die Matrixformeln wörtlich lesen, Matrizen. Sie ändern sich also nicht, wenn Sie sie transponieren. Das Transponieren von ( 1 ) ergibt λ A λ ' = Var ( λ X ) = Var ( λ X ) ' = ( λ A λ ' ) ' = λ A ' λ ' . Da dies für alle λ gilt , ist $1\times 1$$(1)$

   $$\lambda \mathbb{A} \lambda ^\prime = \operatorname{Var}(\lambda X) = \operatorname{Var}(\lambda X) ^\prime = \left(\lambda \mathbb{A} \lambda ^\prime\right)^\prime = \lambda \mathbb{A}^\prime \lambda ^\prime.$$ $\lambda$$\mathbb{A}$ muss seine Transponierte A ' gleich sein$\mathbb{A}^\prime$ : Kovarianzmatrizen müssen symmetrisch sein.

Das tiefere Ergebnis ist, dass jede nicht negativ-definierte symmetrische Matrix eine Kovarianzmatrix ist. $\mathbb{A}$ Dies bedeutet, dass es tatsächlich eine vektorwertige Zufallsvariable mit A als Kovarianz gibt. Wir können dies demonstrieren, indem wir X explizit konstruieren . Eine Möglichkeit ist zu bemerken , dass die (multivariate) Dichtefunktion f ( x 1 , ... , x n ) mit der Eigenschaft , log ( f ) α - $X$$\mathbb{A}$$X$$f(x_1,\ldots, x_n)$hatAfür seine Kovarianz. (Eine gewisse Delikatesse ist erforderlich, wennAnicht invertierbar ist - aber das ist nur ein technisches Detail.)

$$\log(f) \propto -\frac{1}{2} (x_1,\ldots,x_n)\mathbb{A}^{-1}(x_1,\ldots,x_n)^\prime$$ $\mathbb{A}$$\mathbb{A}$

Lösungen

Sei und Y Kovarianzmatrizen. Offensichtlich sind sie quadratisch; und wenn ihre Summe irgendeinen Sinn ergeben soll, müssen sie die gleichen Dimensionen haben. Wir müssen nur die beiden Eigenschaften überprüfen.$\mathbb{X}$$\mathbb{Y}$

1. Die Summe.

   • Die Symmetrie zeigt, dass die Summe symmetrisch ist. $$(\mathbb{X}+\mathbb{Y})^\prime = \mathbb{X}^\prime + \mathbb{Y}^\prime = (\mathbb{X} + \mathbb{Y})$$
   • Nicht negative Bestimmtheit. Sei ein beliebiger Vektor. Dann beweist λ ( X + Y ) λ ' = λ X λ ' + λ Y λ ' ≥ 0 + 0 = 0 den Punkt unter Verwendung der grundlegenden Eigenschaften der Matrixmultiplikation.$\lambda$ $$\lambda(\mathbb{X}+\mathbb{Y})\lambda^\prime = \lambda \mathbb{X}\lambda^\prime + \lambda \mathbb{Y}\lambda^\prime \ge 0 + 0 = 0$$

2. Ich lasse das als Übung.

3. $2\times 2$

   $$\pmatrix{a & b \\ b & a}$$ $a^2 \ge b^2$$a \ge 0$$\mathbb{XY}$ $$\mathbb{X} = \pmatrix{a & -1 \\ -1 & a}$$ $a \ge 1$$\mathbb{Y}$ $$\mathbb{Y} = \pmatrix{b & 0 \\ 0 & 1}$$ $b\ge 0$$-1$$1$

   $\mathbb{XY}$$a$$b$

Eine reelle Matrix ist genau dann eine Kovarianzmatrix, wenn sie symmetrisch positiv semidefinit ist.

Hinweise:

$X$$Y$$X+Y$$z^TX z \ge 0$$z$$z^TY z \ge 0$$z$$z^T(X+Y)z$ ?

2) Wenn $X$$X^2$$X$$X^2$

$X$$Y$$XY$