Warum scheint sich PDF von Dirichlet Distribution nicht in 1 zu integrieren?

Ich habe versucht, den erwarteten Wert einer Funktion einer Zufallsvariablen mit einer Dirichlet-Verteilung zu finden, indem ich ihr Produkt mit der Dirichlet-Dichtefunktion über einen Simplex in R integriert habe.

Um zu überprüfen, ob ich die richtige Funktion in R angewendet habe, habe ich versucht, die Dichtefunktion über den gesamten Simplex zu integrieren, wobei ich erwartet habe, 1 zu erhalten. Ich habe jedoch immer wieder die Dichtefunktion für eine Dirichlet-Verteilung mit n in sqrt (n) integrierten Kategorien erhalten (using R-Paket SimplicialCubature).

Ich nahm an, dass dies falsch sein muss, aber dann habe ich mir die Dichtefunktion für 2 Kategorien angesehen und den Fall betrachtet, in dem die Alphas = (1,1) sind. Dann ist die Dichtefunktion einheitlich 1 (unter Verwendung der Dichtefunktion von https://en.wikipedia.org/wiki/Dirichlet_distribution ). Das Integral der Dichtefunktion über dem 1-Simplex gibt also nur die Länge des 1-Simplex an. Aber das ist sqrt (2), wie ich mit dem R-Code gefunden habe.

Was fehlt mir hier?

probability distributions dirichlet-distribution EBartrum
quelle

Mit zwei Variablen definieren Sie ein Liniensegment in , wie Sie bereits betont haben. Aufgrund der Simplex-Einschränkung ist jedoch eine dieser beiden Variablen hinsichtlich der Angabe der Dichte redundant , da zwischen und eine Eins-zu-Eins-Beziehung besteht . Daher wird die Dichte über freien Variablen angegeben (dh in ). $\mathbb{R}^2$ $x_1$ $x_2$ $K-1$ $\mathbb{R}$

Dies wird tatsächlich in der ersten Zeile dieses Abschnitts des Wikipedia-Artikels hervorgehoben, wenn auch sehr subtil.

Daher wird Ihre Dichtefunktion:

D i r_{1, 1} (x_{1}, 1 - x_{1}) = \frac{Γ (2)}{Γ (1)^{2}} (x_{1})^{0} (1 - x_{1})^{0} = 1

$Dir_{1,1}(x_1,1-x_1)=\frac{\Gamma(2)}{\Gamma(1)^2}(x_1)^0(1-x_1)^0=1$

Deshalb,

\int_{0}^{1} D i r_{1, 1} (x_{1}, 1 - x_{1}) d x_{1} = 1

$\int_0^1 Dir_{1,1}(x_1,1-x_1) dx_1 = 1$

Antwort auf OP-Kommentar

Aufgrund der Simplex-Einschränkungen ist die Dirichlet-Dichte mit zwei Variablen in tatsächlich entartet , wie meine obige Konstruktion zeigt (es ist nur eine Variable erforderlich). Während es wahr ist, hat es eine Dichte von , aber es hat keine Dichte von auf dem Liniensegment, das mit . Was die obige Konstruktion zeigt , ist , dass die marginale Dichte einen Wert von . Ihre Verwirrung entsteht dadurch, dass Sie als freie Variable betrachten. In diesem Fall unterstützt das Dirichlet $\mathbb{R}^2$ $1$ $1$ $(1,0)$ $(0,1)$ $1$ $x_2$ $\mathbb{R}^2$ hätte einen Bereich ungleich Null. Diese Intuition ist in Fällen wie dem bivariaten Gaußschen in Ordnung, in denen die beiden Variablen nicht perfekt korreliert sind, aber in diesem Fall nicht.

Wir können dies formal wie folgt ableiten:

Sei eine Zahl in , die den Abstand von zu entlang des Verbindungsliniensegments angibt . Somit identifiziert jeder Wert von ein eindeutiges Paar. Unter Verwendung dieser Notation läuft Ihre Annahme, dass die Dichte entlang dieser Linie auf Folgendes hinaus: $L$ $[0,\sqrt{2}]$ $(1,0)$ $(0,1)$ $L$ $(x_ 1,x_2)$ $1$

P (L \in [a, b] \subset) = b - a

$P(L \in [a,b] \subset)=b-a$

Wir können jedoch durch eine formale Behandlung der Gelenkdichte von zeigen, dass dies nicht der Fall ist : $x_1,x_2$

P_{L} (L \in [a, b]) = P_{X_{1}, X_{2}} [(x_{1}, x_{2}) \in A_{[a, b]}]

$P_L(L\in [a,b])=P_{X_1,X_2}[(x_1,x_2) \in A_{[a,b]}]$

Wobei $A_{[a,b]}:= \{(u,v): u \in [1-\frac{b}{\sqrt{2}},1-\frac{a}{\sqrt{2}}], v = 1- u]$

Berechnen wir nun : $P_L(L\in [a,b])$

P_{L} (L \in [a, b]) = \int_{A_{[a, b]}} d P_{X_{1}, X_{2}} = \int_{A_{[a, b]}} d P_{X_{1}} d P_{X_{2} | X_{1}} = \int_{A_{[a, b]}} 1 d P_{X_{1}} = \int_{1 - \frac{b}{\sqrt{2}}}^{1 - \frac{a}{\sqrt{2}}} 1 d u =

$P_L(L\in [a,b])= \int_{A_{[a,b]}} dP_{X_1,X_2}= \int_{A_{[a,b]}} dP_{X_1}dP_{X_2|X_1} =\int_{A_{[a,b]}} 1 \;dP_{X_1} = \int_{1-\frac{b}{\sqrt{2}}}^{1-\frac{a}{\sqrt{2}}}1\; du =$

(1 - \frac{a}{\sqrt{2}}) - (1 - \frac{b}{\sqrt{2}}) = \frac{1}{\sqrt{2}} (b - a)

$\left(1-\frac{a}{\sqrt{2}}\right) - \left(1-\frac{b}{\sqrt{2}}\right) = \frac{1}{\sqrt{2}}(b-a)$

Wo die dritte Gleichheit zustande kommt, weil für (dh es ist keine Dichte, sondern eine bei ) $dP_{X_2|X_1} = 1$ $X_2=1-X_1$ $1-X_1$

Wie Sie sehen können, haben wir die Normalisierungskonstante für die Dichte entlang des Liniensegments in wiederhergestellt . Tatsächlich ist diese (entartete) Gelenkdichte nur eine lineare Transformation eines der beiden Ränder (einer funktioniert). Dies führt dazu, dass der Bereich der Wahrscheinlichkeitsdichte von nach , daher muss die Dichte zum Kompensieren abnehmen. $\frac{1}{\sqrt{2}}$ $\mathbb{R}^2$ $1$ $\sqrt{2}$

quelle

Vielen Dank, ich stimme der Logik Ihres Schreibens zu, aber ich kann das in meinem Kopf nicht mit der Tatsache in Einklang bringen, dass die Funktion den konstanten Wert 1 und die Zeile die Länge sqrt (2) hat. Warum sollte das Integral nicht sqrt (2) geben?

EBartrum

@EBartrum Ich werde einige Klarstellung gegen 7:30 EDT hinzufügen

@EBartrum fügte einige weitere Details hinzu, um den Beitrag abzurunden (ich weiß, dass Sie bereits akzeptiert haben, aber andere möchten möglicherweise die zusätzlichen Details)

Warum scheint sich PDF von Dirichlet Distribution nicht in 1 zu integrieren?

Antworten: