"Da

Kurze Frage: Warum ist das so?

Lange Frage:

Ganz einfach, ich versuche herauszufinden, was diese erste Gleichung rechtfertigt. Der Autor des Buches, das ich gerade lese (Kontext hier, wenn Sie es wollen, aber nicht notwendig), behauptet Folgendes:

Aufgrund der Annahme einer Beinahe-Gauß-Beziehung können wir schreiben:

$p_{0} (ξ) = A ϕ (ξ) e x p (a_{n + 1} ξ + (a_{n + 2} + \frac{1}{2}) ξ^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (ξ))$ $p_0(\xi) = A \; \phi(\xi) \; exp( a_{n+1}\xi + (a_{n+2} + \frac{1}{2})\xi^2 + \sum_{i=1}^{n} a_i G_i(\xi))$

Wobei das PDF Ihrer beobachteten Daten mit maximaler Entropie ist, da Sie nur eine Reihe von Erwartungen beobachtet haben (einfache Zahlen) , wobei und ist das PDF einer standardisierten Gaußschen Variablen, 0 Mittelwert und Einheitsvarianz. $p_0(\xi)$ $c_i, i = 1 ... n$ $c_i = \mathbb{E}\{G_i(\xi)\}$ $\phi(\xi)$

Das alles geht dahin, dass er die obige Gleichung als Ausgangspunkt verwendet, um das PDF, einfacher zu machen, und ich verstehe, wie er es macht, aber ich verstehe nicht, wie er die obige Gleichung rechtfertigt, dh Der Startpunkt. $p_0(\xi)$

Ich habe versucht, mich kurz zu fassen, um niemanden zu verschleiern, aber wenn Sie zusätzliche Details wünschen, lassen Sie es mich bitte in den Kommentaren wissen. Vielen Dank!

probability normal-distribution entropy maximum-entropy Spacey
quelle

Antworten:

(Hinweis: Ich habe Ihr in geändert .) $\xi$ $x$

Für eine Zufallsvariable mit der Dichte , wenn Sie Einschränkungen $X$ $p$ Für , die maximale Entropiedichte ist

\int G_{i} (x) p (x) d x = c_{i},

$\int G_i(x)\,p(x)\,dx=c_i \, ,$

i = 1, \dots, n

$i=1,\dots,n$

wobei die

aus den

werden und

eine Normalisierungskonstante ist.

p_{0} (x) = A \exp (\sum_{i = 1}^{n} a_{i} G_{i} (x)),

$p_0(x)=A\exp\left(\sum_{i=1}^n a_iG_i(x)\right) \, ,$

a_{i}

$a_i$

c_{i}

$c_i$

A

$A$

In diesem Zusammenhang bedeutet die Gaußsche Näherung ("Near-Gaussianity") zwei Dinge:

1) Sie akzeptieren zwei neue Einschränkungen: Der Mittelwert von ist und die Varianz ist (sagen wir); $X$ $0$ $1$

2) Das entsprechende (siehe unten) ist viel größer als das andere . $a_{n+2}$ $a_i$

Diese zusätzlichen Einschränkungen werden als

G_{n + 1} (x) = x, c_{n + 1} = 0,

$G_{n+1}(x)=x \, , \qquad c_{n+1}=0 \, ,$

G_{n + 2} (x) = x^{2}, c_{n + 2} = 1,

$G_{n+2}(x)=x^2 \, , \qquad c_{n+2}=1 \, ,$

p_{0} (x) = A \exp (a_{n + 2} x^{2} + a_{n + 1} x + \sum_{i = 1}^{n} a_{i} G_{i} (x)),

$p_0(x)=A\exp\left(a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$

p_{0} (x) = A \exp (\frac{x^{2}}{2} - \frac{x^{2}}{2} + a_{n + 2} x^{2} + a_{n + 1} x + \sum_{i = 1}^{n} a_{i} G_{i} (x)),

$p_0(x)=A\exp\left(\frac{x^2}{2} - \frac{x^2}{2} + a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$

p_{0} (x) = A^{'} ϕ (x) \exp (a_{n + 1} x + (a_{n + 2} + \frac{1}{2}) x^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (x));

$p_0(x)=A'\,\phi(x)\exp\left(a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, ;$

$\exp(t)\approx 1+t$

p_{0} (x) \approx A^{'} ϕ (x) (1 + a_{n + 1} x + (a_{n + 2} + \frac{1}{2}) x^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (x)) .

$p_0(x) \approx A'\,\phi(x)\left(1+a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, .$

A^{'}

$A'$

a_{i}

$a_i$

\int p_{0} (x) d x = 1, \int x p_{0} (x) d x = 0, \int x^{2} p_{0} (x) d x = 1

$\int p_0(x)\,dx=1 \, , \qquad \int x \,p_0(x)\,dx=0 \, , \qquad \int x^2 \,p_0(x)\,dx=1$

\int G_{i} (x) p_{0} (x) d x = c_{i}, i = 1, \dots, n,

$\int G_i(x)\, p_0(x)\,dx=c_i \, , \quad i=1,\dots,n \, ,$

A^{'}

$A'$

a_{i}

$a_i$

$G_i$

Zen
quelle

μ = 0

$\mu=0$

σ^{2} = 1

$\sigma^2=1$

p_{0} (x)

$p_0(x)$

p_{0} (x)

$p_0(x)$

p_{0} (x)

$p_0(x)$

p_{0} (z) \approx ϕ (z) (1 + \sum_{i = 1}^{N} c_{i} F_{i} (z))

$p_0(z) \approx \phi(z) (1 + \sum_{i=1}^{N} c_i F_i(z))$

a_{n + 1} x

$a_{n+1}x$