Warum definiert eine kumulative Verteilungsfunktion (Cumulative Distribution Function, CDF) eine Verteilung eindeutig?

17

Mir wurde immer gesagt, dass ein CDF einzigartig ist, ein PDF / PMF jedoch nicht einzigartig. Warum ist das so? Können Sie ein Beispiel nennen, bei dem ein PDF / PMF nicht eindeutig ist?

DKangeyan
quelle
6
In Bezug auf die Eindeutigkeit möchten Sie vielleicht über den Unterschied zwischen der PDF einer gleichmäßigen Verteilung auf [0,1] und einer gleichmäßigen Verteilung auf ihrem Inneren nachdenken (0,1). Eine andere unterhaltsame Übung - die sich mit der Frage befasst, ob es überhaupt ein PDF gibt - besteht darin, darüber nachzudenken, wie das PDF einer Verteilung über die rationalen Zahlen aussehen würde. Zum Beispiel sei wenn , und j ungerade sind. 0 < j 2 - i < 1 i 1 jPr(j2i)=212i0<j2i<1i1j
Whuber
2
Nicht alle Distributionen haben sogar eine PDF-Datei oder eine PMF-Datei, während der Blick auf die CDF eine einheitliche Sicht auf die Dinge gibt. Kontinuierliche Variablen haben glatt aussehende CDFs, diskrete Variablen haben eine "Treppe" und einige CDFs sind gemischt.
Silverfish
6
@ Silverfish: ... und einige sind keine der oben genannten! :-)
Kardinal
3
Um den Titel zu adressieren (vielleicht etwas locker), definiert die CDF eine Distribution, weil die CDF (oder gleichbedeutend nur DF / "Distributionsfunktion"; das "C" dient nur der Verdeutlichung, um welches Objekt es sich handelt) der Begriff ist "Verteilung" bezieht sich wörtlich auf; Das "D" ist der Hinweis auf diesen Teil. Dass es eindeutig ist, folgt aus dem "F" - Funktionen sind einwertig, wenn also zwei Verteilungsfunktionen identisch sind, ist das Objekt, das sie definieren, dasselbe; Wenn sich die DFs irgendwo unterscheiden würden, wäre das, wofür sie definiert sind, an diesen Punkten anders. Ist das Tautologie? Ich glaube, es ist.
Glen_b
4
@ Glen_b Es geht tautologisch nur um die trainierte Intuition. Eine Verteilungsfunktion gibt nur Wahrscheinlichkeiten der Form während die gesamte Verteilung Wahrscheinlichkeiten der Form angibt. für beliebige messbare Mengen Sie müssen bestimmt zeigen Wie NicholasB ausführt, geht es darum, eine Vormessung aus einem Halbring (mit halboffenen Intervallen) zu erweitern: , zum vollen Lebesgue-Sigma-Feld und zeigt es einzigartig.F ( x ) = Pr { ω ΩFPr ( { ω ΩF(x)=Pr{ωΩ|X(ω)x}Pr({ωΩ|X(ω)B}BRFμ((a,b])=F(b)F(a)
whuber

Antworten:

13

Erinnern wir uns an einige Dinge. Sei ein Wahrscheinlichkeitsraum , ist unsere Stichprobenmenge, ist unsere Algebra und ist eine auf definierte Wahrscheinlichkeitsfunktion . Eine Zufallsvariable ist eine messbare Funktion dh für eine beliebige messbare Lebesgue-Untermenge in . Wenn Sie mit diesem Konzept nicht vertraut sind, ergibt alles, was ich später sage, keinen Sinn.(Ω,A,P)ΩAσPAX:ΩRX1(S)AR

Jedes Mal, wenn wir eine Zufallsvariable haben, , wird durch die kategoriale Pushforward- Methode ein Wahrscheinlichkeitsmaß für induziert . Mit anderen Worten, . Es ist trivial zu prüfen, ob ein Wahrscheinlichkeitsmaß für . Wir nennen die Verteilung von .X:ΩRXRX(S)=P(X1(S))XRXX

Mit diesem Konzept ist nun etwas verbunden, das als Verteilungsfunktion einer Funktionsvariablen bezeichnet wird. Bei einer Zufallsvariablen definieren wir . Verteilungsfunktionen haben folgende Eigenschaften:X:ΩRF(x)=P(Xx)F:R[0,1]

  1. F ist rechts stetig .

  2. F nimmt nicht ab

  3. F()=1 und .F()=0

Klar zufällige Variablen, die gleich sind, haben die gleiche Verteilung und Verteilungsfunktion.

Es ist ziemlich technisch, den Prozess umzukehren und ein Maß mit der angegebenen Verteilungsfunktion zu erhalten. Angenommen, Sie erhalten eine Verteilungsfunktion . Definieren Sie . Sie müssen zeigen, dass ein Maß für die Halbalgebra der Intervalle von . Anschließend können Sie die Carathéodory anwenden Erweiterungstheorem , um auf ein Wahrscheinlichkeitsmaß für .μ ( a , b ] = F ( b ) - F ( a ) μ ( a , b ] μ RF(x)μ(a,b]=F(b)F(a)μ(a,b]μR

Nicolas Bourbaki
quelle
4
Dies ist ein guter Anfang für eine Antwort, kann aber die Angelegenheit ein wenig unbeabsichtigt verdecken. Das Hauptproblem scheint zu zeigen, dass zwei Kennzahlen mit der gleichen Verteilungsfunktion tatsächlich gleich sind. Dies erfordert nichts weiter als Dynkins - λ- Theorem und die Tatsache, dass Mengen der Form ( - , b ] ein π- System bilden, das die Borel- σ- Algebra erzeugt . Dann kann die Eindeutigkeit einer Dichte (vorausgesetzt, sie existiert!) angesprochen werden und im Gegensatz zu den oben genannten.πλ(,b]πσ
Kardinal
3
(Ein weiteres kleines Problem: Zufällige Variablen werden normalerweise in Form von Borel-Sätzen und nicht in Form von Lebesgue-Sätzen definiert.) Ich denke, dass diese Antwort mit einigen kleinen Änderungen ziemlich klar wird. :-)
Kardinal
@ Kardinal Ich denke zuerst an die Analyse, dann an die Wahrscheinlichkeit. Daher kann dies erklären, warum ich lieber an Lebesgue-Sets denke. In beiden Fällen hat dies keinen Einfluss auf das Gesagte.
Nicolas Bourbaki
4

Um die Anfrage nach einem Beispiel für zwei Dichten mit dem gleichen Integral (dh mit der gleichen Verteilungsfunktion) zu beantworten, müssen die folgenden Funktionen für die reellen Zahlen definiert werden:

 f(x) = 1 ; when x is odd integer
 f(x) = exp(-x^2)  ; elsewhere

und dann;

 f2(x) = 1  ; when x is even integer
 f2(x) = exp(-x^2) ;  elsewhere

Sie sind überhaupt nicht gleich x, aber beide Dichten für die gleiche Verteilung, daher werden die Dichten nicht eindeutig durch die (kumulative) Verteilung bestimmt. Wenn sich Dichten mit einer realen Domäne nur bei einer abzählbaren Menge von x-Werten unterscheiden, sind die Integrale gleich. Die mathematische Analyse ist nicht wirklich für schwache Nerven oder den genau festgelegten Verstand gedacht.

DWin
quelle
0

Ich bin mit der Aussage nicht einverstanden, dass "die Wahrscheinlichkeitsverteilungsfunktion ein Wahrscheinlichkeitsmaß nicht eindeutig bestimmt", wie Sie in Ihrer Eröffnungsfrage sagen. Es bestimmt es eindeutig.

Sei zwei Wahrscheinlichkeitsmassenfunktionen. Wenn E f 1 = E f 2 Für jede messbare Menge E ist f 1 = f 2 fast überall. Dies bestimmt das PDF eindeutig (da es uns in der Analyse egal ist, ob sie sich auf eine Menge von Maß Null einigen).f1,f2:R[0,)

Ef1=Ef2
Ef1=f2

Wir können die oben Integral in umschreiben, Wo g = f 1 - f 2 eine integrierbare Funktion ist.

Eg=0
g=f1f2

Definiere , also E g = 0 . Wir verwenden den bekannten Satz, dass wenn ein Integral einer nicht-negativen Funktion Null ist, die Funktion fast überall Null ist. Insbesondere g = 0 ae auf E . So f 1 = f 2 ae auf E . Wiederholen Sie nun das Argument in die andere Richtung mit F = { x R | g 0 }E={xR | g0}Eg=0g=0Ef1=f2EF={xR | g0}. Wir werden ae auf F erhalten . Somit f 1 = f 2 ae auf E F = R .f1=f2Ff1=f2EF=R

Nicolas Bourbaki
quelle