Unabhängigkeit von Stichprobenmittelwert und Stichprobenvarianz in der Binomialverteilung

Sei . Wir wissen, dass und . Bedeutet dies , dass die Probe Mittelwert und die Probenvarianz sind abhängig voneinander? Oder bedeutet es nur, dass die Populationsvarianz als Funktion des Populationsmittelwerts geschrieben werden kann ?E [ X ] = n p V a r [ X ] = n p ( 1 - p $X\sim\mathrm{Binomial}(n,p)$$\mathrm{E}[X]=np$$\mathrm{Var}[X]=np(1-p)$$\bar x$$s^2$

unds2sind Zufallsvariablen. Wir können ihre gemeinsame Verteilung ausarbeiten. Versuchen wir den einfachsten nichttrivialen Fall, den einer Stichprobe der Größe2aus einer Binomialverteilung(1,p). Für diese Stichprobe gibt es nur vier Möglichkeiten, die hiermit zusammen mit ihren Wahrscheinlichkeiten tabellarisch aufgeführt werden (berechnet aus der Unabhängigkeit der beiden Stichprobenelemente):$\bar x$$s^2$$2$$(1,p)$

First value | Second value | Mean | Variance | Probability
          0 |            0 |    0 |        0 | (1-p)^2
          0 |            1 |  1/2 |      1/2 | (1-p)p
          1 |            0 |  1/2 |      1/2 | p(1-p)
          1 |            1 |    1 |        0 | p^2

Der Mittelwert sagt die Varianz in diesem Beispiel perfekt voraus. Vorausgesetzt, alle Wahrscheinlichkeiten sind ungleich Null (dh ist weder 0 noch 1 ), sind der Stichprobenmittelwert und die Stichprobenvarianz nicht unabhängig.$p$$0$$1$

Eine interessante Frage ist, ob, wenn in einer Verteilungsfamilie der Mittelwert die Varianz bestimmt, der Stichprobenmittelwert und die Stichprobenvarianz unabhängig sein können. Die Antwort lautet ja: Nehmen Sie eine Familie von Normalverteilungen, bei denen die Varianz vom Mittelwert abhängt, z. B. die Menge aller Normalverteilungen . Unabhängig davon, welche dieser Verteilungen die Stichprobe regelt, sind der Stichprobenmittelwert und die Stichprobenvarianz unabhängig, da dies bei jeder Normalverteilung der Fall ist .$(\mu, \mu^2)$

Diese Analyse legt nahe, dass Fragen zur Struktur einer Verteilungsfamilie (die , p , μ usw. betreffen ) keinen Einfluss auf Fragen der Unabhängigkeit der Statistik von Stichproben von einem bestimmten Element der Familie haben.$n$$p$$\mu$

Die Eigenschaft, dass für eine iid-Stichprobe der Stichprobenmittelwert und die Stichprobenvarianz unabhängig sind, ist eine Charakterisierung der Normalverteilung: Für keine andere Verteilung gilt eine solche Eigenschaft.

Siehe Patel, JK & Read, CB (1982). Handbuch der Normalverteilung , p. 81 in der 1. Ausgabe von 1982, im Kapitel "Charakterisierungen" (möglicherweise Seiten in der 2. Ausgabe von 1996 geändert).

Für jede andere Verteilung sind der Stichprobenmittelwert und die Stichprobenvarianz statistisch abhängig.

Das allgemeine Ergebnis in Bezug auf den Stichprobenmittelwert und die Stichprobenvarianz aus einer iid-Stichprobe einer Verteilung mit Momenten bis zum 3d ist das folgende (unter Verwendung des unverzerrten Schätzers für die Varianz):

$$\operatorname{Cov} (\bar X, s^2) = E(\bar X s^2) - E(x)\operatorname{Var}(x) = \frac 1n E[X-E(x)]^3$$

$n$

1) Mit zunehmender Stichprobengröße neigen die beiden dazu, unkorreliert zu werden.

2) Für jede Verteilung, bei der das dritte zentrale Moment gleich Null ist, sind sie nicht korreliert (obwohl sie für alle Verteilungen außer der Normalen abhängig bleiben). Dies schließt natürlich alle Verteilungen ein, die symmetrisch zu ihrem Mittelwert sind, aber auch andere Verteilungen, die nicht symmetrisch zu ihrem Mittelwert sind, aber dennoch das dritte zentrale Moment gleich Null haben , siehe diesen Thread .

$\operatorname{Bernoulli}(p) = \operatorname{Binomial}(1,p).$$N:$

$$\begin{align} Ns^2 = \sum_{k=1}^N (x_k - \overline x)^2 = {} & \left( \sum_k x_k^2 \right) - \left( 2\overline x \sum_i x_k \right) + \left( N\overline x^2 \right) \\[10pt] = {} & \left( \sum_k x_k \right) - 2\overline x \sum_k x_k + \left( n\overline x^2 \right) \\ & \text{since $x_k = 0$ or $1$, so $x_k^2=x_k$} \\[12pt] = {} & N\overline x - 2N\overline x^2 + N \overline x^2 \\[10pt] = {} & N \overline x(1-\overline x), \\[10pt] \text{so } s^2 = {} & \overline x(1-\overline x). \end{align}$$ $n$$1,$$\overline x$$\overline x(1-\overline x).$

$np$$n(1-p)$