Konstruktionsbeispiel mit

Wie konstruiere ich ein Beispiel für eine Wahrscheinlichkeitsverteilung, für die $\mathbb{E}\left(\frac{1}{X}\right)=\frac{1}{\mathbb{E}(X)}$ gilt unter der Annahme, dass$\mathbb{P}(X\ne0)=1$?

Die Ungleichung, die sich aus Jensens Ungleichung für ein positiv bewertetes Wohnmobil ergibt $X$ ergibt, ist wie$\mathbb{E}\left(\frac{1}{X}\right)\ge\frac{1}{\mathbb{E}(X)}$ (die umgekehrte Ungleichung, wenn$X<0$ ). Dies liegt daran, dass die Abbildung$x\mapsto\frac{1}{x}$ ist für$x>0$konvexund für$x<0$konkav. Nach der Gleichheitsbedingung in Jensens Ungleichung muss die Verteilung vermutlich entartet sein, damit die erforderliche Gleichheit erhalten bleibt. Ein trivialer Falldem die Gleichheit ist natürlich giltwenn$X=1$ae Hierein Beispieldas ich in einem Problem Buch gefunden: eine diskrete Zufallsvariable Betrachten$X$so dass$\mathbb{P}(X=-1)=\frac{1}{9}, \mathbb{P}(X=\frac{1}{2})=\mathbb{P}(X=2)=\frac{4}{9}$ . Es ist dann leicht zu verifizieren, dass$\mathbb{E}\left(\frac{1}{X}\right)=\frac{1}{\mathbb{E}(X)}=1$.

Dieses Beispiel zeigt, dass $X$ nicht positiv (oder negativ) sein muss, damit die Gleichheit im Titel erhalten bleibt. Auch hier ist die Verteilung nicht entartet.

Wie konstruiere ich ein Beispiel, wie ich es möglicherweise im Buch gefunden habe? Gibt es eine Motivation?

Konstruieren wir alle möglichen Beispiele für Zufallsvariablen X, für die E [ X ] E [ 1 / X ] = 1 ist . Dann können wir unter ihnen einigen Heuristiken folgen, um ein möglichst einfaches Beispiel zu erhalten. Diese Heuristiken bestehen darin, allen Ausdrücken, die aus einer vorläufigen Analyse herausfallen, möglichst einfache Werte zu geben. Dies stellt sich als Lehrbuchbeispiel heraus.$X$$E[X]E[1/X]=1$

Voruntersuchung

Dies erfordert nur ein wenig Analyse basierend auf Definitionen. Die Lösung ist nur von zweitrangigem Interesse: Das Hauptziel besteht darin, Erkenntnisse zu entwickeln, die uns helfen, die Ergebnisse intuitiv zu verstehen.

Zunächst beobachtet , dass Jensen-Ungleichung (oder das Cauchy-Schwarz Inequality) bedeutet , dass für eine positive Zufallsvariable X , E [ X ] E [ 1 / X ] ≥ 1 , mit Gleichheit Halt , wenn und nur wenn X ist "entartet": Das ist , X ist fast sicher konstant. Wenn X eine negative Zufallsvariable ist, ist - X positiv und das vorhergehende Ergebnis gilt mit umgekehrtem Ungleichheitszeichen. Folglich ist jedes Beispiel, in dem E [ 1 / X ] = 1 /$X$$E[X]E[1/X] \ge 1$$X$$X$$X$$-X$ E[ X ] muss eine positive Wahrscheinlichkeit haben, negativ zu sein, und eine positive Wahrscheinlichkeit, positiv zu sein.$E[1/X]=1/E[X]$

Die Einsicht hier ist, dass jedes X mit E [ X ] E [ 1 / X ] = 1 irgendwie die Ungleichung von seinem positiven Teil gegen die Ungleichung in der anderen Richtung von seinem negativen Teil "balancieren" muss. Dies wird im weiteren Verlauf klarer.$X$$E[X]E[1/X]=1$

Betrachten Sie eine beliebige Zufallsvariable X ungleich Null . Ein erster Schritt bei der Formulierung einer Definition der Erwartung (zumindest wenn dies in voller Allgemeinheit unter Verwendung der Maßtheorie erfolgt) ist die Zerlegung von X in seine positiven und negativen Teile, die beide positive Zufallsvariablen sind:$X$$X$

$$\eqalign{ Y &= \operatorname{Positive part}(X) = \max(0, X);\\ Z &= \operatorname{Negative part}(X) = -\min(0, X). }$$

Stellen wir uns X als eine Mischung aus Y mit Gewicht p und - Z mit Gewicht 1 - p vor, wobei p = Pr ( X > 0 ) , 1 - p = Pr ( X < 0 ) . Offensichtlich 0 < p < 1. Dies ermöglicht es uns, Erwartungen von X und 1 / X zu schreiben$X$$Y$$p$$-Z$$1-p$

$$p=\Pr(X\gt 0),\ 1-p = \Pr(X \lt 0).$$ $$0 \lt p \lt 1.$$ $X$$1/X$in Bezug auf die Erwartungen der positiven Variablen Y und Z .$Y$$Z$

Um die bevorstehende Algebra ein wenig Notiz zu vereinfachen , dass einheitlich rescaling X durch eine Zahl σ nicht ändert E [ X ] E [ 1 / X ] --Aber tut es mehrfach E [ Y ] und E [ Z ] jeweils von σ . Für positive σ ergibt dies einfach die Maßeinheiten der Auswahl X . Eine negative σ schaltet die Rollen von Y und Z . Das Vorzeichen von $X$$\sigma$$E[X]E[1/X]$$E[Y]$$E[Z]$$\sigma$$\sigma$$X$$\sigma$$Y$$Z$$\sigma$in geeigneter Weise können wir daher annehmen, dass

$$E[Z]=1\text{ and }E[Y] \ge E[Z].\tag{1}$$

Notation

Das war es für vorläufige Vereinfachungen. Um eine schöne Notation zu erstellen, lassen Sie uns deshalb schreiben

$$\mu = E[Y];\ \nu = E[1/Y];\ \lambda=E[1/Z]$$

Für die drei Erwartungen können wir nicht kontrollieren. Alle drei Größen sind positiv. Jensens Ungleichung behauptet

$$\mu\nu \ge 1\text{ and }\lambda \ge 1.\tag{2}$$

Das Gesetz der Gesamtwahrscheinlichkeit drückt die Erwartungen von X und 1 / X in Bezug auf die Mengen aus, die wir benannt haben:$X$$1/X$

$$E[X] = E[X\mid X\gt 0]\Pr(X \gt 0) + E[X\mid X \lt 0]\Pr(X \lt 0) = \mu p - (1-p) = (\mu + 1)p - 1$$

und, da 1 / X das gleiche Vorzeichen wie X hat ,$1/X$$X$

$$E\left[\frac{1}{X}\right] = E\left[\frac{1}{X}\mid X\gt 0\right]\Pr(X \gt 0) + E\left[\frac{1}{X}\mid X \lt 0\right]\Pr(X \lt 0) = \nu p - \lambda(1-p) = (\nu + \lambda)p - \lambda.$$

Das Gleichsetzen des Produkts dieser beiden Ausdrücke mit 1 liefert eine wesentliche Beziehung zwischen den Variablen:$1$

$$1 = E[X]E\left[\frac{1}{X}\right] = ((\mu +1)p - 1)((\nu + \lambda)p - \lambda).\tag{*}$$

Neuformulierung des Problems

Suppose the parts of $X$--$Y$ and $Z$--are any positive random variables (degenerate or not). That determines $\mu, \nu,$ and $\lambda$. When can we find $p$, with $0 \lt p \lt 1$, for which $(*)$ holds?

This clearly articulates the "balancing" insight previously stated only vaguely: we are going to hold $Y$ and $Z$ fixed and hope to find a value of $p$ that appropriately balances their relative contributions to $X$. Although it's not immediately evident that such a $p$ need exist, what is clear is that it depends only on the moments $E[Y]$, $E[1/Y]$, $E[Z]$, and $E[1/Z]$. The problem thereby is reduced to relatively simple algebra--all the analysis of random variables has been completed.

Solution

This algebraic problem isn't too hard to solve, because $(*)$ is at worst a quadratic equation for $p$ and the governing inequalities $(1)$ and $(2)$ are relatively simple. Indeed, $(*)$ tells us the product of its roots $p_1$ and $p_2$ is

$$p_1p_2 = (\lambda - 1)\frac{1}{(\mu+1)(\nu+\lambda)} \ge 0$$

and the sum is

$$p_1 + p_2 = (2\lambda + \lambda \mu + \nu)\frac{1}{(\mu+1)(\nu+\lambda)} \gt 0.$$

Therefore both roots must be positive. Furthermore, their average is less than $1$, because

$$1 - \frac{(p_1+p_2)}{2} = \frac{\lambda \mu + \nu + 2 \mu \nu}{2(\mu+1)(\nu+\lambda)} \gt 0.$$

(By doing a bit of algebra, it's not hard to show the larger of the two roots does not exceed $1$, either.)

A Theorem

Here is what we have found:

Given any two positive random variables $Y$ and $Z$ (at least one of which is nondegenerate) for which $E[Y]$, $E[1/Y]$, $E[Z]$, and $E[1/Z]$ exist and are finite. Then there exist either one or two values $p$, with $0 \lt p \lt 1$, that determine a mixture variable $X$ with weight $p$ for $Y$ and weight $1-p$ for $-Z$ and for which $E[X]E[1/X]=1$. Every such instance of a random variable $X$ with $E[X]E[1/X]=1$ is of this form.

That gives us a rich set of examples indeed!

---

Constructing the Simplest Possible Example

Having characterized all examples, let's proceed to construct one that is as simple as possible.

• For the negative part $Z$, let's choose a degenerate variable--the very simplest kind of random variable. It will be scaled to make its value $1$, whence $\lambda=1$. The solution of $(*)$ includes $p_1=0$, reducing it to an easily solved linear equation: the only positive root is

  $$p = \frac{1}{1+\mu} + \frac{1}{1+\nu}.\tag{3}$$

• For the positive part $Y$, we obtain nothing useful if $Y$ is degenerate, so let's give it some probability at just two distinct positive values $a \lt b$, say $\Pr(X=b)=q$. In this case the definition of expectation gives

  $$\mu = E[Y] = (1-q)a + qb;\ \nu = E[1/Y] = (1-q)/a + q/b.$$

• To make this even simpler, let's make $Y$ and $1/Y$ identical: this forces $q=1-q=1/2$ and $a=1/b$. Now

  $$\mu = \nu = \frac{b + 1/b}{2}.$$

  The solution $(3)$ simplifies to

  $$p = \frac{2}{1+\mu} = \frac{4}{2 + b + 1/b}.$$

• How can we make this involve simple numbers? Since $a\lt b$ and $ab=1$, necessarily $b\gt 1$. Let's choose the simplest number greater than $1$ for $b$; namely, $b=2$. The foregoing formula yields $p = 4/(2+2+1/2) = 8/9$ and our candidate for the simplest possible example therefore is

  $$\eqalign{ \Pr(X=2) = \Pr(X=b) = \Pr(Y=b)p = qp = \frac{1}{2}\frac{8}{9} = \frac{4}{9};\\ \Pr(X=1/2) = \Pr(X=a) = \Pr(Y=a)p = qp = \cdots = \frac{4}{9};\\ \Pr(X=-1) = \Pr(Z=1)(1-p) = 1-p = \frac{1}{9}. }$$

This is the very example offered in the textbook.

As you've mentioned, if $X$ is positive then $E(1/X)=1/E(X)$ occurs only when $X$ is almost surely constant. Otherwise you need $X$ to take both negative and positive values.

To construct such an example, first go as simple as possible. Assume $X$ takes two values, $a$ and $b$, with probabilities $p$ and $1-p$ respectively. Then

$$E(X)=ap+b(1-p)$$ and $$E(1/X)=\frac1ap+\frac1b(1-p).$$ To have $1/E(X)=E(1/X)$ we require $$ap+b(1-p)=\frac1{\frac1ap+\frac1b(1-p)}$$ which rearranges to the requirement $$(a-b)^2p(1-p)=0.$$ This means the only possible solution must have either $a=b$, or $p=0$, or $p=1$. In all cases we return to the degenerate case: $X$ is constant.

Next try: a distribution with three possible values. Here there are many more choices. The example you cited tries an $X$ such that $1/X$ has the same distribution. If we know $X$ takes three values, it must be that one of the values is either $1$ or $-1$, and the other two must be $a$ and $1/a$ for some choice of $a$. For definiteness let's try $P(X=a)=P(X=1/a)=p$, and $P(X=-1)=1-2p$. Then

$$E(1/X)=E(X)=(a+\frac1a)p-(1-2p)=(2+a+\frac1a)p-1.\tag1$$ To meet the requirement $1/E(X)=E(1/X)$ we demand $E(X)=1$ or $E(X)=-1$. Expression (1) is never $-1$ unless $p=0$, which returns us to the degenerate case again. So aim for $E(X)=1$, which gives $$(2+a+\frac1a)p=2\quad\Leftrightarrow\quad p=\frac2{2+a+\frac1a}=\frac{2a}{(a+1)^2}.\tag2$$ Expression (2) gives an entire family of solutions that meet the requirement. The only constraint is that $a$ must be positive. The example you cited takes $a=2$. Only the case $a=1$ is degenerate.