Momenterzeugungsfunktion des inneren Produkts zweier Gaußscher Zufallsvektoren

Lassen Sie uns zuerst den Fall ansprechen . Am Ende steht die (einfache) Verallgemeinerung auf beliebiges . $\Sigma = \sigma\mathbb{I}$ $\Sigma$

Beginnen Sie mit der Beobachtung, dass das innere Produkt die Summe der iid-Variablen ist, von denen jede das Produkt zweier unabhängiger Normalvariablen ist, wodurch sich die Frage darauf reduziert, die mgf der letzteren zu finden, da die mgf einer Summe die ist Produkt der mgfs. $(0,\sigma)$

Die mgf kann durch Integration gefunden werden, aber es gibt einen einfacheren Weg. Wenn und Standard normal sind, $X$ $Y$

X Y = ((X + Y) / 2)^{2} - ((X - Y) / 2)^{2}

$XY = ((X+Y)/2)^2 - ((X-Y)/2)^2$

ist eine Differenz von zwei unabhängig skalierten Chi-Quadrat-Variablen. (Der Skalierungsfaktor ist weil die Varianzen von gleich .) Weil die mgf einer Chi-Quadrat-Variable , ist die mgf von ist und die mgf von ist . Multipliziert man, ergibt sich, dass die gewünschte mgf gleich . $1/2$ $(X\pm Y)/2$ $1/2$ $1/\sqrt{1 - 2\omega}$ $((X+Y)/2)^2$ $1/\sqrt{1-\omega}$ $-((X-Y)/2)^2$ $1/\sqrt{1+\omega}$ $1/\sqrt{1-\omega^2}$

(Beachten Sie zum späteren Nachschlagen, dass bei einer Neuskalierung von und durch das Produkt um skaliert wird , von wo aus um skaliert werden sollte .) $X$ $Y$ $\sigma$ $\sigma^2$ $\omega$ $\sigma^2$

Dies sollte vertraut aussehen: Bis zu einigen konstanten Faktoren und einem Vorzeichen sieht es aus wie die Wahrscheinlichkeitsdichte für eine Student t-Verteilung mit Freiheitsgraden. (Wenn wir mit charakteristischen Funktionen anstelle von mgfs gearbeitet hätten, würden wir , was einem Student t PDF noch näher kommt.) Es ist egal, dass es so etwas nicht gibt als Student t mit dfs - alles was zählt ist, dass die mgf in einer Nachbarschaft von analytisch ist und dies ist eindeutig (nach dem Binomialsatz). $0$ $1/\sqrt{1 + \omega^2}$ $0$ $0$

Daraus folgt sofort, dass die Verteilung des inneren Produkts dieser iid-Gaußschen Vektoren mgf gleich dem fachen Produkt dieses mgf hat, $n$ $n$

(1 - ω^{2} σ^{4})^{- n / 2}, n = 1, 2, \dots .

$(1 - \omega^2 \sigma^4)^{-n/2}, \quad n=1, 2, \ldots.$

Durch aufzublicken die charakteristische Funktion der Studenten t - Verteilungen, folgern wir (mit einem kleinen wenig Algebra oder einer Integration die Normierungskonstante zu finden) , dass die PDF selbst ist gegeben durch

f_{n, σ} (x) = \frac{2^{\frac{1 - n}{2}} | x |^{\frac{n - 1}{2}} K_{\frac{n - 1}{2}} (\frac{| x |}{σ^{2}})}{\sqrt{π} σ^{4} Γ (\frac{n}{2})}

$f_{n,\sigma}(x) = \frac{2^{\frac{1-n}{2}} |x|^{\frac{n-1}{2}} K_{\frac{n-1}{2}}\left(\frac{|x|}{\sigma ^2}\right)}{\sqrt{\pi } \sigma ^4 \Gamma \left(\frac{n}{2}\right)}$

( ist eine Bessel-Funktion). $K$

Zum Beispiel ist hier eine Darstellung dieses PDFs, die dem Histogramm einer Zufallsstichprobe von solcher inneren Produkte überlagert ist , wobei und : $10^5$ $\sigma=1/2$ $n=3$

Histogramm

Es ist schwieriger, die Genauigkeit des mgf aus einer Simulation zu bestätigen, aber beachten Sie (aus dem Binomialsatz), dass

(1 + t^{2} σ^{4})^{- 3 / 2} = 1 - \frac{3 σ^{4} t^{2}}{2} + \frac{15 σ^{8} t^{4}}{8} - \frac{35 σ^{12} t^{6}}{16} + \frac{315 σ^{16} t^{8}}{128} + \dots,

$(1 + t^2 \sigma^4)^{-3/2} = 1-\frac{3 \sigma ^4 t^2}{2}+\frac{15 \sigma ^8 t^4}{8}-\frac{35 \sigma ^{12} t^6}{16}+\frac{315 \sigma ^{16} t^8}{128}+\ldots,$

von denen wir die Momente ablesen können (geteilt durch Fakultäten). Aufgrund der Symmetrie um sind nur die geraden Momente von Bedeutung. Für 1/2 erhalten wir die folgenden Werte, die mit den Rohmomenten dieser Simulation verglichen werden sollen: $0$ $\sigma=1/2$

 k    mgf           simulation/k!
 2    0.09375       0.09424920
 4    0.00732422    0.00740436
 6    0.00053406    0.00054128
 8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

Wie zu erwarten ist, weichen die hohen Momente der Simulation von den vom mgf angegebenen Momenten ab. aber zumindest bis zum zehnten Moment besteht eine ausgezeichnete Übereinstimmung.

Wenn die Verteilung übrigens biexponentiell. $n=2$

Um den allgemeinen Fall zu behandeln, stellen Sie zunächst fest, dass das innere Produkt ein koordinatenunabhängiges Objekt ist. Wir können daher die Hauptrichtungen (Eigenvektoren) von als Koordinaten nehmen. In diesen Koordinaten ist das innere Produkt die Summe unabhängiger Produkte unabhängiger Normalvariablen, wobei jede Komponente mit einer Varianz verteilt ist, die ihrem zugehörigen Eigenwert entspricht. Wenn also die Eigenwerte ungleich Null (mit ) sind, muss der mgf gleich sein $\Sigma$ $\sigma_1^2, \sigma_2^2, \ldots, \sigma_d^2$ $0 \le d \le n$

{(\prod_{i = 1}^{d} (1 - ω^{2} σ_{i}^{4}))}^{- 1 / 2} .

$\left(\prod_{i=1}^d (1 - \omega^2\sigma_i^4)\right)^{-1/2}.$

Um zu bestätigen, dass ich in dieser Argumentation keinen Fehler gemacht habe, habe ich ein Beispiel ausgearbeitet, in dem die Matrix ist $\Sigma$

(\begin{array}{ccc} 1 & \frac{1}{2} & - \frac{1}{8} \\ \frac{1}{2} & 1 & - \frac{1}{4} \\ - \frac{1}{8} & - \frac{1}{4} & \frac{1}{2} \end{array})

$\left( \begin{array}{ccc} 1 & \frac{1}{2} & -\frac{1}{8} \\ \frac{1}{2} & 1 & -\frac{1}{4} \\ -\frac{1}{8} & -\frac{1}{4} & \frac{1}{2} \end{array} \right)$

und berechnet, dass seine Eigenwerte sind

(σ_{1}^{2}, σ_{2}^{2}, σ_{3}^{2}) = (\frac{1}{16} (17 + \sqrt{65}), \frac{1}{16} (17 - \sqrt{65}), \frac{3}{8}) \approx (1.56639, 0.558609, 0.375) .

$\left(\sigma_1^2, \sigma_2^2, \sigma_3^2\right) = \left(\frac{1}{16} \left(17+\sqrt{65}\right),\frac{1}{16} \left(17-\sqrt{65}\right),\frac{3}{8}\right)\approx \left(1.56639,0.558609,0.375\right).$

Es war möglich, das PDF durch numerische Auswertung der Fourier-Transformation der charakteristischen Funktion (abgeleitet aus der hier angegebenen mgf-Formel) zu berechnen: Ein Diagramm dieses PDF ist in der folgenden Abbildung als rote Linie dargestellt. Gleichzeitig erzeugte ich iid-Variablen aus der Normalverteilung und weitere iid-Variablen auf die gleiche Weise und berechnete die Punktprodukte . Das Diagramm zeigt das Histogramm dieser Punktprodukte (wobei einige der extremsten Werte weggelassen wurden - der Bereich lag zwischen und ): $10^6$ $X_i$ $(0,\Sigma)$ $10^6$ $Y_i$ $10^6$ $X_i\cdot Y_i$ $-12$ $15$

Histogramm und PDF

Die Übereinstimmung ist nach wie vor hervorragend. Darüber hinaus passen die Momente gut bis zum achten und ziemlich gut bis zum zehnten:

 k    mgf           simulation/k!
 2     1.45313       1.45208
 4     2.59009       2.59605
 6     5.20824       5.29333
 8    11.0994       11.3115
10    24.4166       22.9982

Nachtrag

(Hinzugefügt am 9. August 2013.)

$f_{n,\sigma}$ ist eine Instanz der Varianz-Gamma-Verteilung , die ursprünglich als "die normale Varianz-Mittelwert-Mischung, bei der die Mischdichte die Gamma-Verteilung ist" definiert wurde. Es hat eine Standardposition ( ), einen Asymmetrieparameter von (es ist symmetrisch), einen Skalierungsparameter und einen Formparameter (gemäß der Wikipedia-Parametrisierung). $0$ $0$ $\sigma^2$ $n/2$

whuber
quelle

Hallo whuber, vielen Dank für die ausführliche Erklärung. Ich habe jedoch einen Zweifel. Wenn allgemein ist, sind die Begriffe in der Summenerweiterung des inneren Produkts nicht mehr vorhanden; daher ist der mgf der Summe nicht mehr das Produkt des mgfs. Wie verallgemeinern wir dann die obige Analyse auf ein allgemeineres Sigma?

Σ

$\Sigma$

Abhibhat

Ich habe einen neuen Abschnitt hinzugefügt, um einige (einfache) Details dieser Verallgemeinerung bereitzustellen, um zu verdeutlichen, dass hier nichts Neues involviert ist. Sie können auch die grundlegenden Eigenschaften von mgfs verwenden, um die mgf aufzuschreiben, wenn die Daten auch Mittelwerte ungleich Null haben, wodurch das Problem allgemein gelöst wird.

whuber

Momenterzeugungsfunktion des inneren Produkts zweier Gaußscher Zufallsvektoren

Antworten:

Nachtrag