Welche intuitive Bedeutung hat das Einfügen einer Zufallsvariablen in ein eigenes PDF oder PDF?

Ein PDF wird normalerweise als , wobei der Kleinbuchstabe als Realisierung oder Ergebnis der Zufallsvariablen die dieses PDF enthält. In ähnlicher Weise wird ein cdf als , was die Bedeutung . Unter bestimmten Umständen, wie der Definition der Bewertungsfunktion und dieser Ableitung, dass das cdf gleichmäßig verteilt ist , scheint es jedoch, dass die Zufallsvariable in ihr eigenes pdf / cdf eingefügt wird; Auf diese Weise erhalten wir eine neue Zufallsvariable oder $f(x|\theta)$ $x$ $X$ $F_X(x)$ $P(X<x)$ $X$ $Y=f(X|\theta)$ $Z=F_X(X)$ . Ich glaube nicht, dass wir dies mehr als pdf oder cdf bezeichnen können, da es jetzt selbst eine Zufallsvariable ist, und im letzteren Fall scheint mir die "Interpretation" Unsinn zu sein. $F_X(X)=P(X<X)$

Außerdem bin ich mir im letzteren Fall nicht sicher, ob ich die Aussage "das cdf einer Zufallsvariablen folgt einer gleichmäßigen Verteilung" verstehe. Das cdf ist eine Funktion, keine Zufallsvariable und hat daher keine Verteilung. Vielmehr hat eine gleichmäßige Verteilung die Zufallsvariable, die mit der Funktion transformiert wurde, die ihr eigenes cdf darstellt, aber ich verstehe nicht, warum diese Transformation sinnvoll ist. Gleiches gilt für die Score-Funktion, bei der eine Zufallsvariable in die Funktion eingefügt wird, die ihre eigene Log-Wahrscheinlichkeit darstellt.

Ich habe mir wochenlang den Kopf zerbrochen, um eine intuitive Bedeutung für diese Transformationen zu finden, aber ich stecke fest. Jeder Einblick wäre sehr dankbar!

random-variable pdf cdf intuition Mai
quelle

Die Notation kann Sie verwirren. Beispiel ist genau so sinnvoll wie die Anwendung jede messbare Funktion wäre. Für eine korrekte Interpretation müssen Sie sich sehr klar darüber sein, was eine Zufallsvariable ist . Für jede Zufallsvariable die Funktion für eindeutig eine Zufallsvariable und hat daher eine Verteilung(Beachten Sie die zwei unterschiedlichen Bedeutungen des Symbols " " in " ".) ist genau dann einheitlich, wenn eine kontinuierliche Verteilung hat.

F_{X} (X)

$F_X(X)$

X

$X$

X : Ω \to R,

$X:\Omega\to\mathbb{R},$

Y. :: ω \to {F.}_{X.} (X. (ω))

$Y:\omega\to F_X(X(\omega))$

ω \in Ω

$\omega\in\Omega$

F_{Y} .

$F_Y.$

X

$X$

F_{X} (X)

$F_X(X)$

F_{Y}

$F_Y$

X

$X$

whuber

Dies ist nicht wirklich ein messungstheoretisches Problem: Um es zu verstehen, können Sie alle Verweise auf "Messbarkeit" ignorieren. Sie könnten davon profitieren, wenn Sie zu Beginn Ihrer Abschlusskarriere ein wenig Mengenlehre studieren: Dort lernen die meisten Menschen, was diese grundlegende (und allgegenwärtige) mathematische Terminologie und Notation wirklich bedeutet. Es ist also am besten, das Lernen nicht zu verschieben.

whuber

Vielleicht ein Wort darüber, warum man so etwas Verrücktes tun sollte: ein Wohnmobil in seine eigene Dichte einfügen !!?! Ein Beispiel: Angenommen, Sie möchten die Dichte von X schätzen, dann können Sie messen, wie gut Sie sind, indem Sie über Dies ist jedoch „unfair“: Sie werden niemals eine gute Annäherung erzielen, wenn Sie keine haben viele Datenbeispiele (dh die wahre Dichte ist klein). Eine „faire“ Bewertung wäre daher, den Begriff mit der wahren Dichte zu gewichten. Dies ist mehr oder weniger der Effekt des Einfügens von RV in ihre eigenen Dichten ...

f (x) - f_{X} (x)

$f(x)-f_X(x)$

Fabian Werner

Siehe auch stats.stackexchange.com/questions/324768/…

Fabian Werner

Antworten:

Wie Sie sagen, ist jede (messbare) Funktion einer Zufallsvariablen selbst eine Zufallsvariable. Es ist einfacher, sich und als "irgendeine alte Funktion" vorzustellen. Sie haben einfach einige schöne Eigenschaften. Wenn beispielsweise ein exponentielles Standard-RV ist, ist die Zufallsvariable nicht besonders seltsam. Es kommt einfach so vor, dass . Die Tatsache, dass eine gleichmäßige Verteilung hat (vorausgesetzt, dass $f(x)$ $F(x)$ $X$

Y. = 1 - - e^{- - X.}

$Y = 1 - e^{-X}$

Y = F_{X} (X)

$Y=F_X(X)$

Y

$Y$

X

$X$ ist ein kontinuierliches RV) kann für den allgemeinen Fall durch Ableiten der CDF von

Y

$Y$

\begin{aligned} {F.}_{Y.} (y) & = P. (Y. \leq y) \\ = P. ({F.}_{X.} (X.) \leq y) \\ = P. (X. \leq {F.}_{X.}^{- - 1} (y)) \\ = {F.}_{X.} ({F.}_{X.}^{- - 1} (y)) \\ = y \end{aligned}

$\begin{align*} F_Y(y) &= P(Y \leq y) \\ &= P(F_X(X) \leq y) \\ &= P(X \leq F^{-1}_X(y)) \\ &= F_X(F^{-1}_X(y)) \\ &= y \end{align*}$

Welches ist eindeutig die CDF einer Zufallsvariablen. Hinweis: In dieser Version des Beweises wird davon ausgegangen, dass streng ansteigt und kontinuierlich ist, es ist jedoch nicht viel schwieriger, eine allgemeinere Version anzuzeigen. $U(0,1)$ $F_X(x)$

knrumsey
quelle

Ihre Schlussfolgerung ist falsch für die strengste Erhöhung von

: Sie haben angenommen, dass

die Identität ist - aber das ist nicht immer der Fall.

F_{X}

$F_X$

F_{X} \circ F_{X}^{- 1}

$F_X\circ F_X^{-1}$

whuber

Ja Dankeschön. Die Zufallsvariable

muss eindeutig stetig sein. Vermisse ich jetzt etwas?

X

$X$

Knrumsey

muss nicht bijektiv sein. Nehmen wir zum Beispiel den Fall, dass

selbst eine gleichmäßige Verteilung hat! Das Schließen des Bildes von

muss das gesamte Intervall sein

Das ist im Wesentlichen die Definition einer kontinuierlichen Verteilung.

F_{X}

$F_X$

X

$X$

F_{X}

$F_X$

[0, 1] .

$[0,1].$

whuber

Eine Transformation einer Zufallsvariablen durch eine messbare Funktion ist eine weitere Zufallsvariable deren Verteilung durch die inverse Wahrscheinlichkeitstransformation $X$ $T:\mathcal{X}\longrightarrow\mathcal{Y}$ $Y=T(X)$ für alle Mengen so dass

P. (Y. \in EIN) = P. (X. \in {x;; T. (x) \in EIN}}) \overset{def}{=} P. (X. \in {T.}^{- - 1} (EIN))

$\mathbb{P}(Y\in A) = \mathbb{P}(X\in\{x;\,T(x)\in A\})\stackrel{\text{def}}{=} \mathbb{P}(X\in T^{-1}(A))$

A

$A$

ist unter der Verteilung von

messbar.

{x; T (x) \in A}

$\{x;\,T(x)\in A\}$

X

$X$

Diese Eigenschaft gilt für den Sonderfall, wenn das cdf der Zufallsvariablen ist. : ist eine neue Zufallsvariable, die ihre Realisierungen in übernimmt . Zufällig wird als einheitliches wenn stetig ist. (Wenn $F_X:\mathcal{X}\longrightarrow[0,1]$ $X$ $Y=F_X(X)$ $[0,1]$ $Y$ $\mathcal{U}([0,1])$ $F_X$ $F_X$ diskontinuierlich ist, ist der Bereich von nicht mehr . Was immer der Fall ist, ist, dass wenn ein einheitliches , die gleiche Verteilung wie , wobei die verallgemeinerte Umkehrung von . Dies ist ein formaler Weg, um (a) Zufallsvariablen als messbare Transformationen eines Fundamentals zu verstehen $Y=F_X(X)$ $[0,1]$ $U$ $\mathcal{U}([0,1])$ $F_X^{-}(U)$ $X$ $F_X^{-}$ $F_X$ da eine Zufallsvariable mit cdf und (b)Zufallsvariablenaus einer gegebenen Verteilung mit cdf .) $\omega\in\Omega$ $X(\omega)=F_X^{-}(\omega)$ $F_X$ $F_X$

Um das Paradoxon von zu verstehen , nehmen Sie die Darstellung $\mathbb{P}(X\le X)$ wenn das dominierende Maß und die entsprechende Dichte ist. Dann ist

{F.}_{X.} (x) = P. (X. \leq x) = \int_{0}^{x} d {F.}_{X.} (x) = \int_{0}^{x} f_{X.} (x) d λ (x)

$F_X(x)=\mathbb{P}(X\le x)=\int_0^x \text{d}F_X(x) = \int_0^x f_X(x)\,\text{d}\lambda(x)$

d λ

$\text{d}\lambda$

f_{X}

$f_X$

ist eine Zufallsvariable, da die Obergrenze des Integrals zufällig ist. (Dies ist der einzige zufällige Teil des Ausdrucks.) Der offensichtliche Widerspruch in

beruht auf einer Verwechslung der Notationen. Um richtig definiert zu werden, benötigt man zwei unabhängige Versionen der Zufallsvariablen

und

, in welchem Fall die Zufallsvariable

durch

F_{X} (X) = \int_{0}^{X} d F_{X} (x) = \int_{0}^{X} f_{X} (x) d λ (x)

$F_X(X)=\int_0^X \text{d}F_X(x) = \int_0^X f_X(x)\,\text{d}\lambda(x)$

P (X \leq X)

$\mathbb{P}(X\le X)$

X

$X$

X_{1}

$X_1$

X_{2}

$X_2$

F_{X} (X_{1})

$F_X(X_1)$

die Wahrscheinlichkeit, die für die Verteilung von

berechnet wird.

F_{X} (X_{1}) = P^{X_{2}} (X_{2} \leq X_{1})

$F_X(X_1)=\mathbb{P}^{X_2}(X_2\le X_1)$

X_{2}

$X_2$

$f_X(X)$ $f_X$ $f_X(X|\hat{\theta}(X))/f_X(X|\theta_0)$ $\chi^2$

\frac{\partial Log f_{X.} (X. | θ)}{\partial θ}

$\dfrac{\partial \log f_X(X|\theta)}{\partial \theta}$

θ

$\theta$

{E.}_{θ_{0}} [\frac{\partial Log f_{X.} (X. | θ_{0})}{\partial θ}]] = \int \frac{\partial Log f_{X.} (x | θ_{0})}{\partial θ} f_{X.} (x | θ_{0}) d λ (x) = 0

$\mathbb{E}_{\theta_0}\left[ \dfrac{\partial \log f_X(X|\theta_0)}{\partial \theta}\right]=\int \dfrac{\partial \log f_X(x|\theta_0)}{\partial \theta}f_X(x|\theta_0)\,\text{d}\lambda(x)=0$

[Antwort eingegeben, während @whuber und @knrumsey ihre jeweiligen Antworten eingaben!]

Xi'an
quelle

F_{X} (X_{1}) = P (X_{2} \leq X_{1})

$F_X(X_1)=P(X_2 \leq X_1)$

F_{X}

$F_X$

X

$X$

F_{X} (X)

$F_X(X)$

Ja, ich stimme zu, dass sie nicht dasselbe sind. In erster Linie ist es kein Wohnmobil, während es im zweiten Fall ein Wohnmobil ist. Bin ich richtig?

mai

X

$X$

F_{X} (X)

$F_X(X)$

θ

$\theta$

θ

$\theta$

θ

$\theta$