Ich habe gehört, dass Verhältnisse oder Umkehrungen von Zufallsvariablen oft problematisch sind, wenn man keine Erwartungen hat. Warum das?

Der Titel ist die Frage. Mir wird gesagt, dass Verhältnisse und Umkehrungen von Zufallsvariablen oft problematisch sind. Gemeint ist, dass Erwartungen oft nicht existieren. Gibt es eine einfache, allgemeine Erklärung dafür?

Ich möchte eine sehr einfache, intuitive Erklärung anbieten. Es kommt darauf an, sich ein Bild anzuschauen: Der Rest dieses Beitrags erklärt das Bild und zieht daraus Schlussfolgerungen.

Hier ist , was es kommt darauf an: wenn es eine „Wahrscheinlichkeitsmasse“ ist konzentriert in der Nähe von $X=0$ , wird es zu viel Wahrscheinlichkeit in der Nähe von $1/X\approx \pm \infty$ , was seine Erwartung nicht definiert werden.

---

Anstatt ganz allgemein zu sein, konzentrieren wir uns auf Zufallsvariablen $X$ , die kontinuierliche Dichten $f_X$ in einer Nachbarschaft von $0$ . Angenommen, $f_X(0)\ne 0$ . Visuell bedeuten diese Bedingungen, dass der Graph von $f$ über der Achse um $0$ :

Die Kontinuität von um 0 impliziert, dass wir für jede positive Höhe p kleiner als f X ( 0 ) und ausreichend klein ϵ ein Rechteck unter diesem Graphen ausschneiden können, das um x = 0 zentriert ist, Breite 2 ϵ und Höhe hat p , wie gezeigt. Dies entspricht dem Ausdruck der ursprünglichen Verteilung als Mischung aus einer gleichmäßigen Verteilung (mit einem Gewicht von p × 2 ϵ = 2 p ϵ ) und allem, was übrig bleibt. $f_X$$0$$p$$f_X(0)$$\epsilon$$x=0$$2\epsilon$$p$$p\times 2\epsilon=2p\epsilon$

Mit anderen Worten, wir können uns folgendermaßen vorstellen:$X$

1. Zeichnen Sie mit der Wahrscheinlichkeit einen Wert aus einer Gleichverteilung ( - ϵ , ϵ ) .$2p\epsilon$$(-\epsilon,\epsilon)$

2. Ziehen Sie andernfalls einen Wert aus der Verteilung, deren Dichte proportional zu . (Dies ist die Funktion, die rechts in gelb dargestellt ist.)$f_X - p I_{(-\epsilon,\epsilon)}$

( die Anzeigefunktion.)$I$

Schritt zeigt, dass für jede 0 < u < ϵ die Wahrscheinlichkeit, dass X zwischen 0 und u liegt, p u / 2 überschreitet . Entsprechend ist dies die Chance, dass 1 / X 1 / u überschreitet . Anders ausgedrückt: Schreiben Sie S für die Überlebensfunktion von 1 /$(1)$$0 \lt u \lt \epsilon$$X$$0$$u$$p u / 2$$1/X$$1/u$$S$$1/X$

$$S(x) = \Pr(1/X \gt x),$$

Das Bild zeigt für alle x > 1 / ϵ .$S(x) \gt p / (2x)$$x \gt 1/\epsilon$

Wir sind jetzt fertig, weil diese Tatsache über impliziert, dass die Erwartung undefiniert ist. $S$ Vergleichen Sie die Integrale, die bei der Berechnung der Erwartung des positiven Teils von , ( 1 / X ) + = max ( 0 , 1 / X ) beteiligt sind :$1/X$$(1/X)_{+} = \max(0, 1/X)$

$$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$$

(Dies ist ein rein geometrisches Argument: Jedes Integral stellt eine identifizierbare zweidimensionale Region dar, und alle Ungleichungen ergeben sich aus strengen Einschlüssen in diesen Regionen. In der Tat müssen wir nicht einmal wissen, dass das endgültige Integral ein Logarithmus ist: Es gibt einfache geometrische Argumente, die dieses Integral zeigen, gehen auseinander.)

Da die rechte Seite divergiert , wenn , E [ ( 1 / X ) + ] divergiert, zu. Die Situation mit dem negativen Teil von 1 / X ist dieselbe (weil das Rechteck um 0 zentriert ist ), und dasselbe Argument zeigt die Erwartung, dass der negative Teil von 1 / X divergiert. Folglich ist die Erwartung von 1 / X selbst undefiniert.$x\to\infty$$E[(1/X)_{+}]$$1/X$$0$$1/X$$1/X$

Im Übrigen zeigt dasselbe Argument, dass, wenn sich mit einer Wahrscheinlichkeit auf eine Seite von 0 konzentriert , wie z. B. eine Exponential- oder Gamma-Verteilung (mit einem Formparameter von weniger als 1 ), die positive Erwartung immer noch divergiert, die negative Erwartung jedoch Null ist. In diesem Fall wird die Erwartung ist definiert, aber ist unendlich.$X$$0$$1$

Verhältnisse und Umkehrungen sind bei nichtnegativen Zufallsvariablen meistens von Bedeutung, daher gehe ich fast sicher davon aus, dass . Wenn dann X eine diskrete Variable ist, die mit positiver Wahrscheinlichkeit den Wert Null annimmt, werden wir mit positiver Wahrscheinlichkeit durch Null dividieren, was erklärt, warum die Erwartung von 1 / X nicht existiert.$X \ge 0$$X$$1/X$

Betrachten Sie nun den stetigen Verteilungsfall mit einer Zufallsvariablen mit der Dichtefunktion f ( x ) . Wir nehmen an, dass f ( 0 ) > 0 und dass f stetig ist (zumindest bei Null). Dann gibt es eine ϵ > 0, so dass f ( x ) > ϵ für 0 ≤ x < ϵ gilt . Der erwartete Wert von 1 / X ist durch E $X \ge 0$$f(x)$$f(0)>0$$f$$\epsilon > 0$$f(x) > \epsilon$$0 \le x < \epsilon$$1/X$ Nun wollen wir Integrationsvariable ändern u = 1 / x haben wir d u = -

$$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$$ $u=1/x$ , E $du = -\frac1{x^2} \; dx$ Nun, unter der Annahme f ( u ) > ϵ auf [ 0 , ϵ ) also f ( $$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$$ $f(u) > \epsilon$$[0,\epsilon)$on(1/ϵ,∞), damit haben wir E$f(\frac1{u}) > 1/\epsilon$$(1/\epsilon, \infty)$ die zeigendass die Erwartung nicht existiert. Ein Beispiel, das diese Annahme erfüllt, ist die Exponentialverteilung mit Rate 1. $$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$$

Wir haben eine Antwort für Umkehrungen gegeben, was ist mit Verhältnissen? Sei das Verhältnis zweier nichtnegativer Zufallsvariablen. Wenn sie unabhängig sind, können wir E Z = E Y schreiben $Z=Y/X$ Das reduziert sich also ziemlich auf den ersten Fall und es gibt nicht viel Neues zu sagen. Was ist, wenn sie abhängig sind, wobei die Fugendichte f(x,y)=f(x xy)g(y) ist? Dann erhalten wir (unter Verwendung derselben Substitution wie oben) E

$$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$$ $$f(x,y) = f(x \mid y) g(y)$$ und wir können wie oben über das innere Integral argumentieren. Das Ergebnis wird sein, dassdie Erwartung unendlichist, wenn die bedingte Dichte (gegebenes y ) bei Null positiv und stetig ist, für eine Menge von y mit positiver Grenzwahrscheinlichkeit. Ich denke, es wird nicht einfach sein, Beispiele zu finden, bei denen die Grenzerwartung von 1 / X unendlich ist, aber die Erwartung des Verhältnisses Y / X ist endlich, sofern keine perfekte Korrelation vorliegt. Es wäre schön, solche Beispiele zu sehen! $$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$$ $y$$y$$1/X$$Y/X$