Erwartung der Quadratwurzel der Summe unabhängiger quadratischer einheitlicher Zufallsvariablen

Sei unabhängige und identisch verteilte standardmäßige einheitliche Zufallsvariablen. $X_1,\dots,X_n \sim U(0,1)$

Let Y_{n} = \sum_{i}^{n} X_{i}^{2} I seek: E [\sqrt{Y_{n}}]

$\text{Let }\quad Y_n=\sum_i^nX_i^2 \quad \quad \text{I seek: } \quad \mathbb{E}\big[\sqrt{Y_n } \big]$

Die Erwartung von $Y_n$ ist einfach:

\begin{aligned} E [X^{2}] & = \int_{0}^{1} \frac{y}{2 \sqrt{y}} = \frac{1}{3} \\ E [Y_{n}] & = E [\sum_{i}^{n} X_{i}^{2}] = \sum_{i}^{n} E [X_{i}^{2}] = \frac{n}{3} \end{aligned}

$\begin{align} \mathbb{E}\left[X^2\right] &=\int_0^1\frac{y}{2\sqrt{y}}=\frac{1}{3}\\ \mathbb{E}\left[Y_n\right] &=\mathbb{E}\left[\sum_i^nX_i^2\right] = \sum_i^n\mathbb{E}\left[X_i^2\right]=\frac{n}{3} \end{align}$

Nun zum langweiligen Teil. Um LOTUS anzuwenden, würde ich das PDF von benötigen . Natürlich ist das PDF der Summe zweier unabhängiger Zufallsvariablen die Faltung ihrer PDFs. Hier haben wir jedoch Zufallsvariablen und ich denke, die Faltung würde zu einem ... verschlungenen Ausdruck führen (schreckliches Wortspiel beabsichtigt). Gibt es einen klügeren Weg? $Y_n$ $n$

Ich würde es vorziehen, die richtige Lösung zu sehen , aber wenn es unmöglich oder zu kompliziert ist, könnte eine asymptotische Näherung für großes akzeptabel sein. Durch Jensens Ungleichung weiß ich das $n$

\sqrt{E [Y_{n}]} = \sqrt{\frac{n}{3}} \geq E [\sqrt{Y_{n}}]

$\sqrt{\mathbb{E}[Y_n]}=\sqrt{\frac{n}{3}}\geq\mathbb{E}\left[\sqrt{Y_n}\right]$

Aber das hilft mir nicht viel, es sei denn, ich finde auch eine nicht triviale Untergrenze. Beachten Sie, dass die CLT hier nicht direkt gilt, da wir die Quadratwurzel der Summe unabhängiger Wohnmobile haben, nicht nur der Summe unabhängiger Wohnmobile. Vielleicht könnte es andere Grenzwertsätze geben (die ich ignoriere), die hier hilfreich sein könnten.

probability expected-value uniform central-limit-theorem mgf DeltaIV
quelle

Siehe diese Frage für asymptotisches Ergebnis: stats.stackexchange.com/questions/241504/…

S. Catterall Reinstate Monica

Ich erhalte basierend auf der oben verlinkten Frage.

E [\sqrt{Y_{n}}] \approx \sqrt{\frac{n}{3} - \frac{1}{15}}

$\mathbb{E}[\sqrt{Y_n}]\approx \sqrt{\frac{n}{3}-\frac{1}{15}}$

S. Catterall stellt Monica

Ich glaube nicht, dass ich einen der in dieser Antwort beschriebenen Ansätze verwenden würde (von denen es mehr als zwei gibt!) :-). Der Grund dafür ist, dass Sie einfache, unkomplizierte Simulationen verwenden können, um die Erwartungen abzuschätzen, während eine analytische Lösung nicht erhältlich zu sein scheint. Ich mag den Ansatz von @ S.Catterall sehr (+1 für diese Lösung, die ich vorher nicht gelesen hatte). Die Simulation zeigt, dass es auch für kleine gut funktioniert .

n

$n$

whuber

Die Simulation lohnt sich :-). Zeichnen Sie die Differenz zwischen dem simulierten Mittelwert und der ungefähren Formel gegen . Es zeigt Ihnen deutlich, wie gut die Approximation als Funktion von funktioniert .

n

$n$

n

$n$

whuber

Es ist klar, dass während die Näherung . In diesem Fall wäre korrekt gewesen. Danach verbessert sich die Annäherung.

E [\sqrt{Y_{1}}] = 0.5

$E\left[\sqrt{Y_1}\right]=0.5$

\sqrt{\frac{1}{3} - \frac{1}{15}} = \sqrt{\frac{4}{15}} \approx 0.516

$\sqrt{\frac{1}{3}-\frac{1}{15}} = \sqrt{\frac4{15}}\approx 0.516$

\sqrt{\frac{1}{3} - \frac{1}{12}}

$\sqrt{\frac{1}{3}-\frac{1}{12}}$

Henry

Antworten:

Ein Ansatz besteht darin, zuerst die Momenterzeugungsfunktion (mgf) von zu berechnen, die durch wobei unabhängige und identisch verteilte einheitliche Standardzufallsvariablen sind . $Y_n$ $Y_n = U_1^2 + \dotsm + U_n^2$ $U_i, i=1,\dotsc, n$

Wenn wir das haben, können wir sehen, dass der von der Ordnung ist . Dann können wir Ergebnisse aus der Arbeit Noel Cressie und Marinus Borkent verwenden: "Die Momenterzeugungsfunktion hat ihre Momente", Journal of Statistical Planning and Inference 13 (1986) 337-344, die durch gebrochene Differenzierung der Momenterzeugungsfunktion gebrochene Momente liefert .

E. \sqrt{{Y.}_{n}}

$\DeclareMathOperator{\E}{\mathbb{E}} \E \sqrt{Y_n}$

Y_{n}

$Y_n$

α = 1 / 2

$\alpha=1/2$

Zuerst die Momenterzeugungsfunktion von , die wir schreiben . und ich haben das (mit Hilfe von Maple und Wolphram Alpha) ausgewertet, um wobei die imaginäre Einheit ist. (Wolphram Alpha gibt eine ähnliche Antwort, jedoch in Bezug auf das Dawson-Integral. ) Es stellt sich heraus, dass wir meistens den Fall für benötigen . Nun ist es leicht, die mgf von zu finden : Dann für die Ergebnisse aus der zitierten Arbeit. Für $U_1^2$ $M_1(t)$

{M.}_{1} (t) = E. e^{t {U.}_{1}^{2}} = \int_{0}^{1} \frac{e^{t x}}{2 \sqrt{x}} d x

$M_1(t) = \E e^{t U_1^2} = \int_0^1 \frac{e^{tx}}{2\sqrt{x}}\; dx$

{M.}_{1} (t) = \frac{\erf (\sqrt{- - t}) \sqrt{π}}{2 \sqrt{- - t}}

$\DeclareMathOperator{\erf}{erf} M_1(t)= \frac{\erf(\sqrt{-t})\sqrt{\pi}}{2\sqrt{-t}}$

i = \sqrt{- 1}

$i=\sqrt{-1}$

t < 0

$t<0$

Y_{n}

$Y_n$

{M.}_{n} (t) = {M.}_{1} (t)^{n}

$M_n(t) = M_1(t)^n$

μ > 0

$\mu>0$ sie definieren das Integral Ordnung der Funktion als Dann ist für und nichtintegral eine positive ganze Zahl und so dass . Dann ist die Ableitung von der Ordnung definiert als Dann geben sie das folgende Ergebnis für eine positive Zufallsvariable (und beweisen es) : Angenommen, (mgf) ist definiert. Dann für

μ

$\mu$

f

$f$

{ich}^{μ} f (t) \equiv Γ (μ)^{- - 1} \int_{- - \infty}^{t} (t - - z)^{μ - - 1} f (z) d z

$I^\mu f(t) \equiv \Gamma(\mu)^{-1} \int_{-\infty}^t (t-z)^{\mu-1} f(z)\; dz$

α > 0

$\alpha>0$

n

$n$

0 < λ < 1

$0<\lambda<1$

α = n - λ

$\alpha=n-\lambda$

f

$f$

α

$\alpha$

{D.}^{α} f (t) \equiv Γ (λ)^{- - 1} \int_{- - \infty}^{t} (t - - z)^{λ - - 1} \frac{d^{n} f (z)}{d z^{n}} d z .

$D^\alpha f(t) \equiv \Gamma(\lambda)^{-1}\int_{-\infty}^t (t-z)^{\lambda-1} \frac{d^n f(z)}{d z^n}\; dz.$

X

$X$

M_{X}

$M_X$

α > 0

$\alpha>0$

, Nun können wir versuchen, diese Ergebnisse auf anzuwenden . Mit finden wir wobei die Primzahl die Ableitung bezeichnet. Maple bietet die folgende Lösung: Ich werde ein Diagramm dieser Erwartung zeigen, das in Ahorn unter Verwendung numerischer Integration zusammen mit der ungefähren Lösung

{D.}^{α} {M.}_{X.} (0) = E. {X.}^{α} < \infty

$D^\alpha M_X(0) = \E X^\alpha < \infty$

Y_{n}

$Y_n$

α = 1 / 2

$\alpha=1/2$

E. {Y.}_{n}^{1 /. 2} = {D.}^{1 /. 2} {M.}_{n} (0) = Γ (1 /. 2)^{- - 1} \int_{- - \infty}^{0} | z |^{- - 1 /. 2} {M.}_{n}^{'} (z) d z

$\E Y_n^{1/2} = D^{1/2} M_n (0) = \Gamma(1/2)^{-1}\int_{-\infty}^0 |z|^{-1/2} M_n'(z) \; dz$

\int_{- - \infty}^{0} \frac{n \cdot (\erf (\sqrt{- - z}) \sqrt{π} - - 2 e^{z} \sqrt{- - z}) e^{\frac{n (- - 2 \ln 2 + 2 \ln (\erf (\sqrt{- - z})) - - \ln (- - z) + \ln (π))}{2}}}{2 π (- - z)^{3 /. 2} \erf (\sqrt{- - z})} d z

$\int_{-\infty}^0 \frac{n\cdot\left(\erf(\sqrt{-z})\sqrt{\pi}-2e^z\sqrt{-z} \right)e^{\frac{n(-2\ln 2 +2 \ln(\erf(\sqrt{-z}))-\ln(-z) +\ln(\pi))}{2}}}{2\pi(-z)^{3/2}\erf(\sqrt{-z})} \; dz$

A (n) = \sqrt{n / 3 - 1 / 15}

$A(n)=\sqrt{n/3-1/15}$ aus einem Kommentar (und in der Antwort von @Henry diskutiert). Sie sind bemerkenswert nah:

Als Ergänzung eine grafische Darstellung des prozentualen Fehlers:

Oberhalb von etwa die Annäherung nahezu exakt. Unterhalb des verwendeten Ahorncodes: $n=20$

int( exp(t*x)/(2*sqrt(x)), x=0..1 ) assuming t>0;
int( exp(t*x)/(2*sqrt(x)), x=0..1 ) assuming t<0;
M := t -> erf(sqrt(-t))*sqrt(Pi)/(2*sqrt(-t))
Mn := (t,n) -> exp(n*log(M(t)))
A  :=  n -> sqrt(n/3 - 1/15)
Ex :=  n ->   int( diff(Mn(z,n),z)/(sqrt(abs(z))*GAMMA(1/2) ), z=-infinity..0 ,numeric=true)

plot([Ex(n),A(n)],n=1..100,color=[blue,red],legend=[exact,approx],labels=[n,expectation],title="expectation of sum of squared uniforms")
plot([((A(n)-Ex(n))/Ex(n))*100],n=1..100,color=[blue],labels=[n,"% error"],title="Percentage error of approximation")

kjetil b halvorsen
quelle

sehr interessant. Wenn Sie einige Diagramme hinzufügen könnten, wäre dies eine hervorragende Antwort. Ich werde hier jedoch einen deutlichen Vorteil der CLT-Näherung feststellen. Die Annäherung zeigt deutlich, dass als wächst, wenn . Die Maple-Lösung funktioniert nicht (oder zumindest kann ich das nicht herausfinden).

E [\sqrt{Y_{n}}]

$\mathbb{E}[\sqrt{Y_n}]$

\sqrt{n}

$\sqrt{n}$

n \to \infty

$n\to\infty$

DeltaIV

Als erweiterter Kommentar: Es scheint hier klar zu sein, dass mit beginnt wenn und sich dann nähert mit zunehmendem , bezogen auf die Varianz von , die von Richtung fällt . Meine verknüpfte Frage, die S.Catterall beantwortet hat, liefert eine Rechtfertigung für das asymptotische Ergebnis basierend auf jedem mit Mittelwert und Varianz $E\left[\sqrt{Y_n}\right]= E\left[\sqrt{\sum_i X_i^2}\right]$ $E\left[\sqrt{Y_n}\right] =\frac12=\sqrt{\frac{n}{3}-\frac{1}{12}}$ $n=1$ $\sqrt{\frac{n}{3}-\frac{1}{15}}$ $n$ $\sqrt{Y_n}$ $\frac{1}{12}$ $\frac{1}{15}$ $\sqrt{\frac{n}{3}-\frac{1}{15}}$ $X_i^2$ $\frac13$ $\frac{4}{45}$ , und die Verteilung ist ungefähr und asymptotisch normal.

Bei dieser Frage geht es effektiv um die Verteilung der Abstände vom Ursprung zufälliger Punkte in einem dimensionalen Einheitshyperwürfel . Es ähnelt einer Frage zur Verteilung der Abstände zwischen Punkten in einem solchen Hyperwürfel , sodass ich leicht anpassen kann, was ich dort getan habe, um die Dichten für verschiedene von bis mithilfe der numerischen Faltung anzuzeigen. Für passt die in Rot dargestellte vorgeschlagene normale Näherung gut, und ab eine Glockenkurve angezeigt. $n$ $[0,1]^n$ $n$ $1$ $16$ $n=16$ $n=4$

Für und Sie im Modus einen scharfen Peak mit der gleichen Dichte in beiden Fällen. Vergleichen Sie dies mit der Verteilung von , wobei die Glockenkurve mit und die Varianz proportional zu $n=2$ $n=3$ $1$ $\sum_i X_i$ $n=3$ $n$

Henry
quelle

Die nahezu konstante Varianz führt zu möglicherweise kontraintuitiven Ergebnissen. Zum Beispiel mit , (der Abstand vom Ursprung eines zufälligen Punkt in einer -dimensionalen Einheit hypercube) kann von einem beliebigen Wert annehmen zu , aber der Fälle wird zwischen und und praktisch alle zwischen und

n = 400

$n=400$

\sqrt{Y_{400}}

$\sqrt{Y_{400}}$

400

$400$

0

$0$

20

$20$

94 %

$94\%$

11

$11$

12

$12$

10

$10$

13

$13$

Henry

es ist in der Tat ein bisschen kontraintuitiv. Aufgrund des Fluches der Dimensionalität hatte ich erwartet, dass die überwiegende Mehrheit der Punkte nahe an den Ecken liegt (Realisierungen st ). Stattdessen sieht es so aus, als ob die überwiegende Mehrheit der Punkte weit vom Ursprung entfernt ist, aber nicht so weit wie die Ecken. Wahrscheinlich besteht der Fehler darin, dass wir den Abstand vom Zentrum des Hyperwürfels berücksichtigen sollten , nicht den Abstand vom Ursprung , der gerecht ist eine der Ecken des Hyperwürfels.

y_{400}

$y_{400}$

\sqrt{y_{400}} = 20

$\sqrt{y_{400}}=20$

DeltaIV

@ DeltaIV: Wenn Sie Ihre Hypercube-Seite so und vom Ursprung aus messen, erhalten Sie genau die gleiche Verteilung, Erwartung und Varianz. Mit meisten Punkte in diesem größeren Hypecube nahe der Grenze dieses Hypercubes (typischer Abstand in der Größenordnung von ), jedoch nicht nahe an seinen Ecken (typischer Abstand zum nächsten oder )

2

$2$

[- 1, 1]^{n}

$[-1,1]^n$

n = 400

$n=400$

0.02

$0.02$

11

$11$

12

$12$

Henry

das macht Sinn - ich hatte keine Zeit zum Rechnen, aber intuitiv erwartete ich ähnliche Ergebnisse für . Ich hatte erwartet, dass sich die Erwartung (Entschuldigung für das Wortspiel) um einen konstanten Faktor ändern würde, aber wie gesagt, ich hatte keine Zeit, sie zu überprüfen.

U ([- 1, 1])

$U([-1, 1])$

DeltaIV