Erwartung eines Produkts von abhängigen Zufallsvariablen bei

18

Lassen und , . Was ist die Erwartung von als ? $X_1 \sim U[0,1]$ $X_i \sim U[X_{i - 1}, 1]$ $i = 2, 3,...$ $X_1 X_2 \cdots X_n$ $n \rightarrow \infty$

mathematical-statistics random-variable expected-value usedbywho
quelle

7

Eine pedantische Bemerkung: soll bedeuten ? Alternativ könnte es bedeuten, nur auf konditionieren , . Da letzteres jedoch die gemeinsame Verteilung der nicht vollständig spezifiziert , ist nicht sofort klar, ob die Erwartung eindeutig bestimmt wird.

X_{i} \sim U [X_{i - 1}, 1]

$X_i \sim U[X_{i - 1}, 1]$

X_{i} ∣ X_{1}, \dots, X_{i - 1} \sim U [X_{i - 1}, 1]

$X_i \mid X_1,\ldots,X_{i-1} \sim U[X_{i-1},1]$

X_{i - 1}

$X_{i-1}$

X_{i} ∣ X_{i - 1} \sim U [X_{i - 1}, 1]

$X_i \mid X_{i-1} \sim U[X_{i-1},1]$

X_{i}

$X_i$

Juho Kokkala

Ich denke, theoretisch sollte es von allen vorherigen bis zu abhängig sein . jedoch , können wir die Verteilung für . Da bin ich mir nicht ganz sicher.

X_{i}

$X_i$

X_{i - 1}

$X_{i - 1}$

X_{i - 1}

$X_{i - 1}$

X_{i}

$X_i$

usedbywho

@JuhoKokkala Wie bereits erwähnt, spielt es keine Rolle, ob Sie die Variablen vor konditionieren, da sie die Tatsache nicht ändern würden, dass einheitlich ist . Die Verteilung von scheint mir vollkommen klar zu sein.

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

[X_{i - 1}, 1]

$[X_{i-1}, 1]$

(X_{1}, \dots, X_{n})

$(X_1, \ldots , X_n)$

DSAXTON

@dsaxton Wenn wir nur

X_{1} \sim U (0, 1)

$X_1\sim U(0,1)$ und

annehmen

X_{i} ∣ X_{i - 1} \sim U (X_{i - 1}, 1), i = 2, 3, . . .

$X_i\mid X_{i-1} \sim U(X_{i-1},1), i=2,3,...$ , es bleibt möglich, dass

X_{1}

$X_1$ und

X_{3}

$X_3$ nicht bedingt unabhängig von

X_{2}

$X_2$ . Daher ist die Verteilung von

(X_{1}, X_{2}, X_{3})

$(X_1,X_2,X_3)$ nicht genau definiert.

Juho Kokkala

@JuhoKokkala Wenn ich dir sage, dass

X_{2} = t

$X_2=t$ , wie ist die Verteilung von

X_{3}

$X_3$ ? Wenn Sie die Frage beantworten können, ohne an

denken

X_{1}

$X_1$ , wie können

X_{1}

$X_1$ und

X_{3}

$X_3$ von

abhängig sein

X_{2}

$X_2$ ? Beachten Sie auch, wie andere Poster diese Sequenz problemlos simulieren konnten.

Dsaxton

12

Die Antwort ist in der Tat , $1/e$ wie in den früheren Antworten auf der Grundlage von Simulationen und endlichen Annäherungen vermutet.

Die Lösung wird leicht durch die Einführung einer Folge von Funktionen . Obwohl wir sofort mit diesem Schritt fortfahren könnten, könnte er ziemlich mysteriös erscheinen. Der erste Teil dieser Lösung erklärt, wie man diese kochen kann . Der zweite Teil zeigt, wie sie ausgenutzt werden, um eine Funktionsgleichung zu finden, die von der Begrenzungsfunktion erfüllt wird . Der dritte Teil zeigt die (Routine-) Berechnungen an, die zur Lösung dieser Funktionsgleichung erforderlich sind. $f_n:[0,1]\to[0,1]$ $f_n(t)$ $f(t) = \lim_{n\to\infty}f_n(t)$

1. Motivation

Wir können dies erreichen, indem wir einige mathematische Standardtechniken zur Problemlösung anwenden. In diesem Fall, in dem irgendeine Art von Operation ad infinitum wiederholt wird, existiert die Grenze als ein fester Punkt dieser Operation. Der Schlüssel besteht dann darin, die Operation zu identifizieren.

Die Schwierigkeit besteht darin, dass der Wechsel von zu kompliziert aussieht. Es ist einfacher, diesen Schritt als aus dem von an die Variablen zu betrachten, als aus dem von an die Variablen . Wenn wir betrachten würden, dass wie in der Frage beschrieben aufgebaut ist - wobei gleichmäßig auf , bedingt gleichmäßig auf ist und so weiter - dann Einführung von $E[X_1X_2\cdots X_{n-1}]$ $E[X_1X_2\cdots X_{n-1}X_n]$ $X_1$ $(X_2, \ldots, X_n)$ $X_n$ $(X_1, X_2, \ldots, X_{n-1})$ $(X_2, \ldots, X_n)$ $X_2$ $[0,1]$ $X_3$ $[X_2, 1]$ $X_1$ bewirkt, dass jedes nachfolgende um den Faktor Richtung der oberen Grenze schrumpft . Diese Überlegung führt natürlich zu der folgenden Konstruktion. $X_i$ $1-X_1$ $1$

Als sei , da es etwas einfacher ist, Zahlen gegen als gegen zu verkleinern . Somit ist gleichmäßig in und ist gleichmäßig in abhängig von für alle Wir interessieren uns für zwei Dinge: $0$ $1$ $Y_i = 1-X_i$ $Y_1$ $[0,1]$ $Y_{i+1}$ $[0, Y_i]$ $(Y_1, Y_2, \ldots, Y_i)$ $i=1, 2, 3, \ldots.$

Der Grenzwert von . $E[X_1X_2\cdots X_n]=E[(1-Y_1)(1-Y_2)\cdots(1-Y_n)]$
Wie sich diese Werte verhalten, wenn alle gleichmäßig auf werden : indem alle Werte mit einem gemeinsamen Faktor , skaliert werden . $Y_i$ $0$ $t$ $0 \le t \le 1$

Zu diesem Zweck definieren

f_{n} (t) = E [(1 - t Y_{1}) (1 - t Y_{2}) \dots (1 - t Y_{n})] .

$f_n(t) = E[(1-tY_1)(1-tY_2)\cdots(1-tY_n)].$

Es ist klar, dass jedes für jedes reelle definiert und stetig (tatsächlich unendlich differenzierbar) ist . Wir werden uns auf ihr Verhalten für . $f_n$ $t$ $t\in[0,1]$

2. Der Schlüsselschritt

Folgendes ist offensichtlich:

Jedes ist eine monoton abnehmende Funktion von auf . $f_n(t)$ $[0,1]$ $[0,1]$
$f_n(t) \gt f_{n+1}(t)$ für alle . $n$
$f_n(0) = 1$ für alle . $n$
$E(X_1X_2\cdots X_n) = f_n(1).$

Dies impliziert, dass für alle und . $f(t) = \lim_{n\to\infty} f_n(t)$ $t\in[0,1]$ $f(0)=1$

Beachten Sie, dass abhängig von die Variable in einheitlich ist und die Variablen (abhängig von allen vorhergehenden Variablen) in einheitlich sind , erfüllen genau die Bedingungen, die von erfüllt werden . Folglich $Y_1$ $Y_2/Y_1$ $[0,1]$ $Y_{i+1}/Y_1$ $[0, Y_i/Y_1]$ $(Y_2/Y_1, Y_3/Y_1, \ldots, Y_n/Y_1)$ $(Y_1, \ldots, Y_{n-1})$

\begin{aligned} f_{n} (t) & = E [(1 - t Y_{1}) E [(1 - t Y_{2}) \dots (1 - t Y_{n}) | Y_{1}]] \\ = E [(1 - t Y_{1}) E [(1 - t Y_{1} \frac{Y_{2}}{Y_{1}}) \dots (1 - t Y_{1} \frac{Y_{n}}{Y_{1}}) | Y_{1}]] \\ = E [(1 - t Y_{1}) f_{n - 1} (t Y_{1})] . \end{aligned}

$\eqalign{ f_n(t) &= E[(1-tY_1) E[(1-tY_2)\cdots(1-tY_n)\,|\, Y_1]] \\ &= E\left[(1-tY_1) E\left[\left(1 - tY_1 \frac{Y_2}{Y_1}\right)\cdots \left(1 - tY_1 \frac{Y_n}{Y_1}\right)\,|\, Y_1\right]\right] \\ &= E\left[(1-tY_1) f_{n-1}(tY_1)\right]. }$

Dies ist die rekursive Beziehung, nach der wir gesucht haben.

In der Grenze als muss es daher der Fall sein, dass für unabhängig von allen gleichverteilt in , $n\to \infty$ $Y$ $[0,1]$ $Y_i$

f (t) = E [(1 - t Y) f (t Y)] = \int_{0}^{1} (1 - t y) f (t y) d y = \frac{1}{t} \int_{0}^{t} (1 - x) f (x) d x .

$f(t) = E[(1 - tY)f(tY)]=\int_0^1 (1 - ty) f(ty) dy = \frac{1}{t}\int_0^t (1-x)f(x)dx.$

Das heißt, muss ein fester Punkt des Funktions sein , für die $f$ $\mathcal{L}$

L [g] (t) = \frac{1}{t} \int_{0}^{t} (1 - x) g (x) d x .

$\mathcal{L}[g](t) = \frac{1}{t}\int_0^t (1-x)g(x)dx.$

3. Berechnung der Lösung

Löschen Sie den Bruch indem Sie beide Seiten mit multiplizieren . Da die rechte Seite ein Integral ist, können wir es in Bezug auf , giving unterscheiden $1/t$ $t$ $t$

f (t) + t f^{'} (t) = (1 - t) f (t) .

$f(t) + tf'(t) = (1-t)f(t).$

Äquivalent dazu, wenn man subtrahiert und beide Seiten durch dividiert , $f(t)$ $t$

f^{'} (t) = - f (t)

$f'(t) = -f(t)$

für . Wir können dies durch Kontinuität erweitern, um . Mit der Anfangsbedingung (3) ist die eindeutige Lösung $0 \lt t \le 1$ $t=0$ $f(0)=1$

f (t) = e^{- t} .

$f(t) = e^{-t}.$

Folglich wird durch (4), die limitierende Erwartung ist , QED. $X_1X_2\cdots X_n$ $f(1)=e^{-1} = 1/e$

Da Mathematica ein beliebtes Werkzeug zur Untersuchung dieses Problems zu sein scheint, finden Sie hier einen Mathematica- Code zur Berechnung und Darstellung von für kleine . Die Darstellung von zeigt eine schnelle Konvergenz zu (als schwarzes Diagramm dargestellt). $f_n$ $n$ $f_1, f_2, f_3, f_4$ $e^{-t}$

a = 0 <= t <= 1;
l[g_] := Function[{t}, (1/t) Integrate[(1 - x) g[x], {x, 0, t}, Assumptions -> a]];
f = Evaluate@Through[NestList[l, 1 - #/2 &, 3][t]]
Plot[f, {t,0,1}]

whuber
quelle

3

(+1) Schöne Analyse.

Kardinal

Vielen Dank, dass Sie uns das mitteilen. Es gibt einige wirklich brillante Leute da draußen!

Felipe Gerard

4

Aktualisieren

Ich denke, es ist eine sichere Wette, dass die Antwort . Ich lief die Integrale für den erwarteten Wert von bis mit Mathematica und mit Ich habe $1/e$ $n=2$ $n=100$ $n=100$

0.367879441171442321595523770161567628159853507344458757185018968311538556667710938369307469618599737077005261635286940285462842065735614

(bis zu 100 Dezimalstellen). Der Kehrwert dieses Wertes ist

2.718281828459045235360287471351873636852026081893477137766637293458245150821149822195768231483133554

Der Unterschied zu dem reziproken und ist $e$

-7.88860905221011806482437200330334265831479532397772375613947042032873*10^-31

Ich glaube, das ist zu nahe, um ein vernünftiger Zufall zu sein.

Der Mathematica- Code lautet:

Do[
 x = Table[ToExpression["x" <> ToString[i]], {i, n}];
 integrand = Expand[Simplify[(x[[n - 1]]/(1 - x[[n - 1]])) Integrate[x[[n]], {x[[n]], x[[n - 1]], 1}]]];
 Do[
   integrand = Expand[Simplify[x[[i - 1]] Integrate[integrand, {x[[i]], x[[i - 1]], 1}]/(1 - x[[i - 1]])]],
   {i, n - 1, 2, -1}]
  Print[{n, N[Integrate[integrand, {x1, 0, 1}], 100]}],
 {n, 2, 100}]

Ende der Aktualisierung

Dies ist eher ein ausführlicher Kommentar als eine Antwort.

Wenn wir einen Brute-Force-Weg gehen, indem wir den erwarteten Wert für mehrere Werte von bestimmen , erkennt möglicherweise jemand ein Muster und kann dann ein Limit festlegen . $n$

Für haben wir den erwarteten Wert des Produkts $n=5$

μ_{n} = \int_{0}^{1} \int_{x_{1}}^{1} \int_{x_{2}}^{1} \int_{x_{3}}^{1} \int_{x_{4}}^{1} \frac{x_{1} x_{2} x_{3} x_{4} x_{5}}{(1 - x_{1}) (1 - x_{2}) (1 - x_{3}) (1 - x_{4})} d x_{5} d x_{4} d x_{3} d x_{2} d x_{1}

$\mu_n=\int _0^1\int _{x_1}^1\int _{x_2}^1\int _{x_3}^1\int _{x_4}^1\frac{x_1 x_2 x_3 x_4 x_5}{(1-x_1) (1-x_2) (1-x_3) (1-x_4)}dx_5 dx_4 dx_3 dx_2 dx_1$

das ist 96547/259200 oder ungefähr 0,3724807098765432.

Wenn wir das Integral von 0 auf 1 reduzieren, haben wir ein Polynom in mit den folgenden Ergebnissen für bis (und ich habe den Index entfernt, um die Lesbarkeit zu verbessern): $x_1$ $n=1$ $n=6$

$x$

$(x + x^2)/2$

$(5x + 5x^2 + 2x^3)/12$

$(28x + 28x^2 + 13x^3 + 3x^4)/72$

$(1631x + 1631x^2 + 791x^3 + 231x^4 + 36x^5)/4320$

$(96547x + 96547x^2 + 47617x^3 + 14997x^4 + 3132x^5 + 360x^6)/259200$

Wenn jemand die Form der ganzzahligen Koeffizienten erkennt, kann möglicherweise eine Grenze als bestimmt werden (nachdem die Integration von 0 auf 1 durchgeführt wurde, die entfernt wurde, um das zugrunde liegende Polynom anzuzeigen). $n\rightarrow\infty$

JimB
quelle

1 / e

$1/e$ ist wunderschön elegant! :)

wolfies

4

Gute Frage. Nur als kurzen Kommentar möchte ich Folgendes erwähnen:

$X_n$ wird schnell zu 1 konvergieren, daher ist die Einstellung von für die Monte-Carlo-Prüfung mehr als der Trick. $n = 1000$
Wenn , dann durch Monte - Carlo - Simulation, wie , . $Z_n = X_1 X_2 \dots X_n$ $n \rightarrow \infty$ $E[Z_n] \approx 0.367$
Das folgende Diagramm vergleicht das simulierte Monte-Carlo-PDF von mit einer [dh einem Beta (a, 1) pdf)] $Z_n$

f (z) = a z^{a - 1}

$f(z) = a z^{a-1}$

... hier mit Parameter : $a=0.57$

_{(Quelle: tri.org.au )}

woher:

Die blaue Kurve zeigt das 'empirische' Monte-Carlo-PDF von $Z_n$
Die rot gestrichelte Kurve ist ein PowerFunction-PDF.

Die Passform sieht ziemlich gut aus.

Code

Hier sind 1 Million Pseudozufallszeichnungen des Produkts (etwa mit ), hier mit Mathematica : $Z_n$ $n = 1000$

data = Table[Times @@ NestList[RandomReal[{#, 1}] &, RandomReal[], 1000], {10^6}];

Der Stichprobenmittelwert ist:

 Mean[data]

0,367657

wolfies
quelle

Können Sie Ihren gesamten Code teilen? Meine Lösung unterscheidet sich von Ihrer.

1

Der erste Punkt, der von entscheidender Bedeutung ist, scheint nicht hinreichend gerechtfertigt zu sein. Warum können Sie die Auswirkung der nächsten Werte von ? Trotz "schneller" Konvergenz könnte ihre kumulative Wirkung die Erwartung erheblich senken.

10^{100}

$10^{100}$

x_{n}

$x_n$

whuber

1

Gute Anwendung der Simulation hier. Ich habe ähnliche Fragen wie @whuber. Wie können wir sicher sein, dass der Wert gegen 0,367 konvergiert, aber nicht gegen etwas Niedrigeres, was möglicherweise möglich ist, wenn größer ist?

n

$n$

usedbywho

In Erwiderung auf die obigen 2 Kommentare: (a) Die Reihe konvergiert sehr schnell zu 1. Selbst ab einem Anfangswert von ist innerhalb von etwa 60 Iterationen numerisch nicht von numerisch 1.0 zu einem Computer unterscheidbar . Die Simulation von mit ist also übertrieben. (b) Im Rahmen des Monte-Carlo-Tests überprüfte ich dieselbe Simulation (mit 1 Million Durchläufen), verwendete jedoch anstelle von 1000, und die Ergebnisse waren nicht unterscheidbar. So scheint es unwahrscheinlich , dass größere Werte von werden jeden erkennbaren Unterschied machen: über , ist effektiv 1,0.

X_{i}

$X_i$

X_{1} = 0.1

$X_1 = 0.1$

X_{60}

$X_{60}$

X_{n}

$X_n$

n = 1000

$n = 1000$

n = 5000

$n = 5000$

n

$n$

n = 100

$n=100$

X_{n}

$X_n$

Wolfies

0

Rein intuitiv und basierend auf Rustys anderer Antwort sollte die Antwort ungefähr so lauten:

n = 1:1000
x = (1 + (n^2 - 1)/(n^2)) / 2
prod(x)

Welches gibt uns 0.3583668. Für jedes teilen Sie den Bereich in zwei Hälften, wobei bei beginnt . Es ist also ein Produkt von usw. $X$ $(a,1)$ $a$ $0$ $1/2, (1 + 3/4)/2, (1 + 8/9)/2$

Das ist nur Intuition.

Das Problem mit Rustys Antwort ist, dass U [1] in jeder einzelnen Simulation identisch ist. Die Simulationen sind nicht unabhängig. Eine Lösung dafür ist einfach. Bewegen Sie die Linie mit U[1] = runif(1,0,1)in die erste Schleife. Das Ergebnis ist:

set.seed(3)    #Just for reproducibility of my solution

n = 1000    #Number of random variables
S = 1000    #Number of Monte Carlo samples

Z = rep(NA,S)
U = rep(NA,n)

for(j in 1:S){
    U[1] = runif(1,0,1)
    for(i in 2:n){
        U[i] = runif(1,U[i-1],1)
    }
    Z[j] = prod(U)
}

mean(Z)

Das gibt 0.3545284.

Jessica
quelle

1

Sehr einfache Lösung! Ich denke es ist wahr, es gibt immer einen Fehler im Code! Ich werde meine Antwort notieren.

1

Ja, das war genau das, was ich erwartet hatte, da Sie die erwarteten Werte als Untergrenzen eingeben.

1

Ich habe Ihren Code mit und als Antwort erhalten. Ist das nicht ein bisschen komisch, denn wenn es zu einem Wert konvergiert, bringen uns mehr Runs diesem Wert nicht näher?

S = 10000

$S = 10000$

0.3631297

$0.3631297$

usedbywho

Erwartung eines Produkts von abhängigen Zufallsvariablen bei

Antworten:

1. Motivation

2. Der Schlüsselschritt

3. Berechnung der Lösung