Konstruktion der Dirichlet-Verteilung mit Gamma-Verteilung

16

Sei X1,,Xk+1 voneinander unabhängige Zufallsvariablen mit jeweils einer Gammaverteilung mit Parametern αi,i=1,2,,k+1 zeige Yi=XiX1++Xk+1,i=1,,k, haben eine gemeinsame Verteilung alsDirichlet(α1,α2,,αk;αk+1)

Gemeinsames pdf von (X1,,Xk+1)=ei=1k+1xix1α11xk+1αk+11Γ(α1)Γ(α2)Γ(αk+1) Dann kann ich das gemeinsame pdf von(Y1,,Yk+1)nicht finden, dhJ(x1,,xk+1y1,,yk+1)

Argha
quelle
3
Schauen Sie sich die Seiten 13-14 dieses Dokuments an .
@Procrastinator Vielen Dank, Ihr Dokument ist die beste Antwort auf meine Frage.
Argha,
2
@Procrastinator - Vielleicht sollten Sie dies als Antwort angeben, da das OP damit einverstanden ist, und ein paar Sätze hinzufügen, damit Sie die Warnung "Wir wollen mehr als einen Satz beantworten" nicht auslösen.
jbowman
4
Dieses Dokument kann jetzt nicht beantwortet werden, da es sich um ein 404 handelt.
whuber
2
Wayback-Maschine zur Rettung: pdf
Mobeets

Antworten:

28

Die Jakobiner - die absoluten Determinanten der Veränderung der variablen Funktion - scheinen gewaltig und können kompliziert sein. Sie sind jedoch ein wesentlicher und unvermeidlicher Bestandteil der Berechnung einer multivariaten Variablenänderung. Es scheint, dass es nichts anderes gibt, als eine x k + 1- Matrix von Ableitungen aufzuschreiben und die Berechnung durchzuführen.k+1k+1

Es gibt einen besseren Weg. Es wird am Ende im Abschnitt "Lösung" angezeigt. Da der Zweck dieses Beitrags darin besteht, Statistiker mit einer möglicherweise für viele neuen Methode bekannt zu machen, ist ein Großteil davon der Erläuterung der Maschinerie gewidmet, die der Lösung zugrunde liegt. Dies ist die Algebra der Differentialformen . (Differentialformen sind die Dinge, die man in mehrere Dimensionen integriert.) Ein detailliertes, ausgearbeitetes Beispiel soll helfen, dies bekannter zu machen.


Hintergrund

Vor über einem Jahrhundert entwickelten Mathematiker die Theorie der Differentialalgebra , um mit den "Ableitungen höherer Ordnung" zu arbeiten, die in der mehrdimensionalen Geometrie vorkommen. Die Determinante ist ein Spezialfall der Grundobjekte, die durch solche Algebren manipuliert werden, bei denen es sich typischerweise um alternierende mehrlineare Formen handelt . Das Schöne daran ist, wie einfach die Berechnungen werden können.

Hier ist alles, was Sie wissen müssen.

  1. Ein Differential ist ein Ausdruck der Form " ". Es ist die Verkettung von " d " mit einem beliebigen Variablennamen.dxid

  2. Eine Einform ist eine lineare Kombination von Differentialen wie oder sogar x 2 d x 1 - exp ( x 2 ) d x 2 . Das heißt, die Koeffizienten sind Funktionen der Variablen.dx1+dx2x2dx1exp(x2)dx2

  3. Formulare können mit einem Keilprodukt , geschrieben , "multipliziert" werden . Dieses Produkt ist ein Anti-kommutative (auch als Wechsel ): Für jede zwei Einzelformen & ohgr; und η ,ωη

    ωη=ηω.

    Diese Multiplikation ist linear und assoziativ, dh sie funktioniert auf die bekannte Weise. Eine unmittelbare Folge ist , dass , was impliziert , das Quadrat einer one-Form ist immer Null. Das macht die Multiplikation extrem einfach!ωω=ωω

  4. Zum Manipulieren der Integranden, die in Wahrscheinlichkeitsberechnungen auftreten, kann ein Ausdruck wie als | verstanden werden d x 1d x 2d x k + 1 | .dx1dx2dxk+1|dx1dx2dxk+1|

  5. Wenn eine Funktion ist, dann ist sein Differential durch Differenzierung gegeben:y=g(x1,,xn)

    dy=dg(x1,,xn)=gx1(x1,,xn)dx1++gx1(x1,,xn)dxn.

Die Verbindung mit den Jakobianern ist folgende: der Jakobianer einer Transformation ist bis zum Vorzeichen einfach der Koeffizient von d x(y1,,yn)=F(x1,,xn)=(f1(x1,,xn),,fn(x1,,xn)) , das beim Rechnen auftrittdx1dxn

dy1dyn=df1(x1,,xn)dfn(x1,,xn)

nach dem Expandieren jedes der als lineare Kombination der d x j in Regel (5).dfidxj


Beispiel

The simplicity of this definition of a Jacobian is appealing. Not yet convinced it's worthwhile? Consider the well-known problem of converting two-dimensional integrals from Cartesian coordinates (x,y) to polar coordinates (r,θ), where (x,y)=(rcos(θ),rsin(θ)). The following is an utterly mechanical application of the preceding rules, where "()" is used to abbreviate expressions that will obviously disappear by virtue of rule (3), which implies drdr=dθdθ=0.

dxdy=|dxdy|=|d(rcos(θ))d(rsin(θ))|=|(cos(θ)drrsin(θ)dθ)(sin(θ)dr+rcos(θ)dθ|=|()drdr+()dθdθrsin(θ)dθsin(θ)dr+cos(θ)drrcos(θ)dθ|=|0+0+rsin2(θ)drdθ+rcos2(θ)drdθ|=|r(sin2(θ)+cos2(θ))drdθ)|=r drdθ.

The point of this is the ease with which such calculations can be performed, without messing about with matrices, determinants, or other such multi-indicial objects. You just multiply things out, remembering that wedges are anti-commutative. It's easier than what is taught in high school algebra.


Preliminaries

Let's see this differential algebra in action. In this problem, the PDF of the joint distribution of (X1,X2,,Xk+1) is the product of the individual PDFs (because the Xi are assumed to be independent). In order to handle the change to the variables Yi we must be explicit about the differential elements that will be integrated. These form the term dx1dx2dxk+1. Including the PDF gives the probability element

fX(x,α)dx1dxk+1(x1α11exp(x1))(xk+1αk+11exp(xk+1))dx1dxk+1=x1α11xk+1αk+11exp((x1++xk+1))dx1dxk+1.

(The normalizing constant has been ignored; it will be recovered at the end.)

Staring at the definitions of the Yi a few seconds ought to reveal the utility of introducing the new variable

Z=X1+X2++Xk+1,

giving the relationships

Xi=YiZ.

This suggests making the change of variables xiyiz in the probability element. The intention is to retain the first k variables y1,,yk along with z and then integrate out z. To do so, we have to re-express all the dxi in terms of the new variables. This is the heart of the problem. It's where the differential algebra takes place. To begin with,

dxi=d(yiz)=yidz+zdyi.

Note that since Y1+Y2++Yk+1=1, then

0=d(1)=d(y1+y2++yk+1)=dy1+dy2++dyk+1.

Consider the one-form

ω=dx1++dxk=z(dy1++dyk)+(y1++yk)dz.

It appears in the differential of the last variable:

dxk+1=zdyk+1+yk+1dz=z(dy1++dyk)+(1y1yk)dz=dzω.

The value of this lies in the observation that

dx1dxkω=0

because, when you expand this product, there is one term containing dx1dx1=0 as a factor, another containing dx2dx2=0, and so on: they all disappear. Consequently,

dx1dxkdxk+1=dx1dxkzdx1dxkω=dx1dxkz.

Whence (because all products dzdz disappear),

dx1dxk+1=(zdy1+y1dz)(zdyk+ykdz)dz=zkdy1dykdz.

The Jacobian is simply |zk|=zk, the coefficient of the differential product on the right hand side.


Solution

The transformation (x1,,xk,xk+1)(y1,,yk,z) is one-to-one: its inverse is given by xi=yiz for 1ik and xk+1=z(1y1yk). Therefore we don't have to fuss any more about the new probability element; it simply is

(zy1)α11(zyk)αk1(z(1y1yk))αk+11exp(z)|zkdy1dykdz|=(zα1++αk+11exp(z)dz)(y1α11ykαk1(1y1yk)αk+11dy1dyk).

That is manifestly a product of a Gamma(α1++αk+1) distribution (for Z) and a Dirichlet(α) distribution (for (Y1,,Yk)). In fact, since the original normalizing constant must have been a product of Γ(αi), we deduce immediately that the new normalizing constant must be divided by Γ(α1++αk+1), enabling the PDF to be written

fY(y,α)=Γ(α1++αk+1)Γ(α1)Γ(αk+1)(y1α11ykαk1(1y1yk)αk+11).
whuber
quelle