Was ist der erwartete Wert einer modifizierten Dirichlet-Verteilung? (Integrationsproblem)

Es ist einfach, eine Zufallsvariable mit Dirichlet-Verteilung unter Verwendung von Gamma-Variablen mit demselben Skalenparameter zu erzeugen. Wenn:

$X_i \sim \text{Gamma}(\alpha_i, \beta)$

Dann:

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n)$

Problem Was passiert, wenn die Skalenparameter nicht gleich sind?

$X_i \sim \text{Gamma}(\alpha_i, \beta_i)$

Wie ist dann die Verteilung dieser Variablen?

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \; ?$

Für mich würde es ausreichen, den erwarteten Wert dieser Verteilung zu kennen.
Ich benötige eine ungefähre geschlossene algebraische Formel, die von einem Computer sehr schnell ausgewertet werden kann.
Nehmen wir an, eine Annäherung mit einer Genauigkeit von 0,01 ist ausreichend.
Sie können davon ausgehen, dass:

$\alpha_i, \beta_i \in \mathbb{N}$

Hinweis Kurz gesagt besteht die Aufgabe darin, eine Annäherung an dieses Integral zu finden:

$f(\vec{\alpha}, \vec{\beta}) = \int_{\mathbb{R}^n_+} \;\frac{x_1}{\sum_j x_j} \cdot \prod_j \frac{\beta_j^{\alpha_j}}{\Gamma(\alpha_j)} x_j^{\alpha_j - 1} e^{-\beta_j x_j} \;\; dx_1\ldots dx_n$

expected-value dirichlet-distribution gamma-distribution integral Łukasz Lew
quelle

@ Łukasz Können Sie noch etwas zu den Parametern , und sagen ? Es ist möglich, exakte Ausdrücke für und damit die Erwartungen der Verhältnisse , aber für bestimmte Kombinationen der Parameter könnte man mit weniger Aufwand die Normal- oder Sattelpunktnäherungen verwenden. Ich denke nicht, dass es eine universelle Annäherungsmethode geben wird, weshalb zusätzliche Einschränkungen wünschenswert wären.

n

$n$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

\sum_{j} X_{j}

$\sum_j{X_j}$

Whuber

X_{1}

$X_1$ und sind korreliert, daher müssen wir das Integral selbst approximieren. ist oft eine kleine Zahl wie 1 oder 2 und manchmal auch 10000. Ähnlich wie aber normalerweise 10-mal größer als .

\sum_{j} X_{j}

$\sum_j X_j$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

α_{i}

$\alpha_i$

Łukasz Lew

Das Problem ist mit small . Wenn alle groß sind, lautet die gute Näherung des gesamten Integrals:

α_{i}

$\alpha_i$

α_{i}

$\alpha_i$

\frac{α_{1} / β_{1}}{\sum_{j} α_{j} / β_{j}}

$\frac{\alpha_1/\beta_1}{\sum_j \alpha_j/\beta_j}$

Łukasz Lew

@ Łukasz Wenn Sie den Ausdruck der Erwartung bewerten müssen, warum benötigen Sie eine algebraische Formel? Ich überlege, einen numerischen Trick anzuwenden, um die Erwartung zu erhalten, aber ich brauche ein Feedback :)

deps_stats

Ich muss es in meinem Programm oft auswerten. Es muss sehr schnell sein, dh keine Schleifen und möglichst nicht zu viele Unterteilungen.

Łukasz Lew

Antworten:

Nur eine erste Bemerkung: Wenn Sie Rechengeschwindigkeit wollen, müssen Sie normalerweise auf Genauigkeit verzichten. "Mehr Genauigkeit" = "Mehr Zeit" im Allgemeinen. Sowieso ist hier eine Annäherung zweiter Ordnung, sollte die "grobe" Annäherung verbessern, die Sie in Ihrem Kommentar oben vorgeschlagen haben:

E (\frac{X_{j}}{\sum_{i} X_{i}}) \approx \frac{E [X_{j}]}{E [\sum_{i} X_{i}]} - \frac{c o v [\sum_{i} X_{i}, X_{j}]}{E [\sum_{i} X_{i}]^{2}} + \frac{E [X_{j}]}{E [\sum_{i} X_{i}]^{3}} V a r [\sum_{i} X_{i}]

$E\Bigg(\frac{X_{j}}{\sum_{i}X_{i}}\Bigg)\approx \frac{E[X_{j}]}{E[\sum_{i}X_{i}]} -\frac{cov[\sum_{i}X_{i},X_{j}]}{E[\sum_{i}X_{i}]^2} +\frac{E[X_{j}]}{E[\sum_{i}X_{i}]^3} Var[\sum_{i}X_{i}]$

= \frac{α_{j}}{\sum_{i} \frac{β_{j}}{β_{i}} α_{i}} \times [1 - \frac{1}{(\sum_{i} \frac{β_{j}}{β_{i}} α_{i})} + \frac{1}{(\sum_{i} \frac{α_{i}}{β_{i}})^{2}} (\sum_{i} \frac{α_{i}}{β_{i}^{2}})]

$= \frac{\alpha_{j}}{\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}}\times\Bigg[1 - \frac{1}{\Bigg(\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}\Bigg)} + \frac{1}{\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}}\Bigg)^2}\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}^2}\Bigg)\Bigg]$

BEARBEITEN Eine Erklärung für die obige Erweiterung wurde angefordert. Die kurze Antwort ist Wikipedia . Die lange Antwort ist unten angegeben.

schreibe . Jetzt brauchen wir alle Ableitungen zweiter Ordnung von. Die Derivate erster Ordnung "stornieren", da sie alle die Vielfachenunddie beide Null sind, wenn sie Erwartungen annehmen. $f(x,y)=\frac{x}{y}$ $f$ $X-E(X)$ $Y-E(Y)$

\frac{\partial^{2} f}{\partial x^{2}} = 0

$\frac{\partial^2 f}{\partial x^2}=0$

\frac{\partial^{2} f}{\partial x \partial y} = - \frac{1}{y^{2}}

$\frac{\partial^2 f}{\partial x \partial y}=-\frac{1}{y^2}$

\frac{\partial^{2} f}{\partial y^{2}} = 2 \frac{x}{y^{3}}

$\frac{\partial^2 f}{\partial y^2}=2\frac{x}{y^3}$

Und so ist die Taylor-Reihe bis zur zweiten Ordnung gegeben durch:

\frac{x}{y} \approx \frac{μ_{x}}{μ_{y}} + \frac{1}{2} (- \frac{1}{μ_{y}^{2}} 2 (x - μ_{x}) (y - μ_{y}) + 2 \frac{μ_{x}}{μ_{y}^{3}} (y - μ_{y})^{2})

$\frac{x}{y} \approx \frac{\mu_x}{\mu_y}+\frac{1}{2}\Bigg(-\frac{1}{\mu_y^2}2(x-\mu_x)(y-\mu_y) + 2\frac{\mu_x}{\mu_y^3}(y-\mu_y)^2 \Bigg)$

Die erwarteten Erträge nehmen:

E [\frac{x}{y}] \approx \frac{μ_{x}}{μ_{y}} - \frac{1}{μ_{y}^{2}} E [(x - μ_{x}) (y - μ_{y})] + \frac{μ_{x}}{μ_{y}^{3}} E [(y - μ_{y})^{2}]

$E\Big[\frac{x}{y}\Big] \approx \frac{\mu_x}{\mu_y}-\frac{1}{\mu_y^2}E\Big[(x-\mu_x)(y-\mu_y)\Big] + \frac{\mu_x}{\mu_y^3}E\Big[(y-\mu_y)^2\Big]$

Which is the answer I gave. (although I initially forgot the minus sign in the second term)

probabilityislogic
quelle

This looks like exactly what I need. Can you explain how you got this expansion? I tried in a lot of ways and was unable to do that ...

Łukasz Lew