Ich suche nach der begrenzten Verteilung der multinomialen Verteilung über d Ergebnisse. IE, die Verteilung der folgenden
Wobei eine Vektorwert-Zufallsvariable mit der Dichte für so dass , und 0 für alle anderen , wobei
Ich habe eine Form in Larry Wassermans "All of Statistics" -Satz 14.6, Seite 237 gefunden, aber um die Verteilung einzuschränken, gibt es Normal mit einer singulären Kovarianzmatrix, daher bin ich mir nicht sicher, wie ich das normalisieren soll. Sie könnten den Zufallsvektor in den (d-1) -dimensionalen Raum projizieren, um die Kovarianzmatrix auf den vollen Rang zu bringen, aber welche Projektion soll verwendet werden?
Update 11/5
Ray Koopman hat eine schöne Zusammenfassung des Problems des singulären Gaußschen. Grundsätzlich stellt die singuläre Kovarianzmatrix eine perfekte Korrelation zwischen Variablen dar, die mit einem Gaußschen nicht dargestellt werden kann. Man könnte jedoch eine Gaußsche Verteilung für die bedingte Dichte erhalten, abhängig von der Tatsache, dass der Wert des Zufallsvektors gültig ist (Komponenten addieren sich im obigen Fall zu ).
Der Unterschied für den bedingten Gaußschen Wert besteht darin, dass das Inverse durch das Pseudo-Inverse ersetzt wird und der Normalisierungsfaktor "Produkt von Nicht-Null-Eigenwerten" anstelle von "Produkt aller Eigenwerte" verwendet. Ian Frisce gibt einen Link mit einigen Details.
Es gibt auch eine Möglichkeit, den Normalisierungsfaktor des bedingten Gaußschen Ausdrucks auszudrücken, ohne auf Eigenwerte Bezug zu nehmen. Hier ist eine Ableitung
quelle
Antworten:
Die Kovarianz ist immer noch nicht negativ bestimmt (ebenso wie eine gültige multivariate Normalverteilung ), aber nicht positiv bestimmt: Dies bedeutet, dass (mindestens) ein Element des Zufallsvektors eine lineare Kombination der anderen ist.
Infolgedessen liegt jede Ziehung aus dieser Verteilung immer auf einem Unterraum von . Infolgedessen bedeutet dies, dass es nicht möglich ist, eine Dichtefunktion zu definieren (da sich die Verteilung auf den Unterraum konzentriert: Denken Sie daran, wie sich eine univariate Normalen auf den Mittelwert konzentriert, wenn die Varianz Null ist).Rd
Wie von Robby McKilliam vorgeschlagen, können Sie in diesem Fall jedoch das letzte Element des Zufallsvektors löschen. Die Kovarianzmatrix dieses reduzierten Vektors ist die ursprüngliche Matrix, wobei die letzte Spalte und Zeile gelöscht wird, die jetzt positiv bestimmt ist und eine Dichte aufweist (dieser Trick funktioniert in anderen Fällen, aber Sie müssen vorsichtig sein, welches Element Sie fallen, und Sie müssen möglicherweise mehr als eine fallen lassen).
quelle
Es gibt hier kein inhärentes Problem mit der singulären Kovarianz. Ihre asymptotische Verteilung ist die singuläre Normalität. Siehe http://fedc.wiwi.hu-berlin.de/xplore/tutorials/mvahtmlnode34.html, das die Dichte der singulären Normalen angibt.
quelle
Es sieht für mich so aus, als ob Wassermans Kovarianzmatrix singulär ist, um zu sehen, multiplizieren Sie sie mit einem Vektor von Einsen, dh der Länge .d [1,1,1,…,1]′ d
Wikipedia gibt sowieso die gleiche Kovarianzmatrix an. Wenn wir uns nur auf eine Binomialverteilung beschränken, sagt uns der Standardsatz der zentralen Grenze, dass die Binomialverteilung (nach entsprechender Skalierung) gegen die Normalität konvergiert, wenn groß wird (siehe Wikipedia erneut ). Wenn Sie ähnliche Ideen anwenden, sollten Sie in der Lage sein zu zeigen, dass ein entsprechend skaliertes Mulinom in seiner Verteilung zur multivariaten Normalen konvergiert, dh jede Randverteilung ist nur ein Binomial und konvergiert zur Normalverteilung, und die Varianz zwischen ihnen ist bekannt.n
Ich bin also sehr zuversichtlich, dass Sie feststellen werden, dass die Verteilung von zur multivariaten Normalen mit dem Mittelwert Null und der Kovarianz wobei die Kovarianz ist Die Matrix des fraglichen Multinoms und ist der Vektor der Wahrscheinlichkeiten .
quelle
Ist es nicht so, dassfür alle wo ist die multinomiale Kovarianzmatrix mit der ten Zeile und Spalte entfernt? Da dies der Fall ist, verstehe ich nicht, was Sie unter "Wahlfreiheit" verstehen, da jede "Wahl" gleichwertig ist.i , j S - i i|S−i|=|S−j| i,j S−i i
quelle