Warum ist der Korrelationskoeffizient zwischen X- und XY-Zufallsvariablen in der Regel 0,7?

Entnommen aus der praktischen Statistik für die medizinische Forschung, in der Douglas Altman auf Seite 285 schreibt:

... für zwei beliebige Größen X und Y wird X mit XY korreliert. Selbst wenn X und Y Stichproben von Zufallszahlen sind, würden wir eine Korrelation von X und XY von 0,7 erwarten

Ich habe es in R versucht und es scheint der Fall zu sein:

x <- rnorm(1000000, 10, 2)
y <- rnorm(1000000, 10, 2)
cor(x, x-y)

xu <- sample(1:100, size = 1000000, replace = T)
yu <- sample(1:100, size = 1000000, replace = T)
cor(xu, xu-yu)

Warum ist das so? Was ist die Theorie dahinter?

Wenn und Y sind nicht korrelierten Zufallsvariablen mit gleicher Varianz & sgr; 2 , dann haben wir diese var ( X - Y $X$$Y$$\sigma^2$ FolglichρX,X-Y=COV(X,X-Y

$$\begin{align} \operatorname{var}(X-Y) &= \operatorname{var}(X) + \operatorname{var}(-Y)\\ &= \operatorname{var}(X) + \operatorname{var}(Y)\\ &=2\sigma^2,\\ \operatorname{cov}(X, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) & \text{bilinearity of covariance operator}\\ &= \operatorname{var}(X) - 0 & 0 ~\text{because}~X ~\text{and}~ Y ~\text{are uncorrelated}\\ &= \sigma^2. \end{align}$$ Also, wenn Sie feststellen Σ n i = 1 (xi- ˉ x )((xi-yi)-( ˉ x - ˉ y ) $$\rho_{X,X-Y} = \frac{\operatorname{cov}(X, X-Y)}{\sqrt{\operatorname{var}(X)\operatorname{var}(X-Y)}}= \frac{\sigma^2}{\sqrt{\sigma^2\cdot2\sigma^2}} = \frac{1}{\sqrt{2}}.$$ die Stichprobenkorrelation vonxundx-yfür einen großen Datensatz{(xi,yi):1≤i≤ $$\frac{\sum_{i=1}^n\left(x_i - \bar{x}\right) \left((x_i-y_i) - (\bar{x}-\bar{y})\right)}{ \sqrt{\sum_{i=1}^n\left(x_i - \bar{x}\right)^2 \sum_{i=1}^n\left((x_i-y_i) - (\bar{x}-\bar{y})\right)^2}}$$ $x$$x-y$ Aus einer Grundgesamtheit mit diesen Eigenschaften, die als Sonderfall "Zufallszahlen" enthält, ist das Ergebnis in der Regel nahe am Grundgesamtheitskorrelationswert$\{(x_i,y_i)\colon 1 \leq i \leq n\}$$\frac{1}{\sqrt{2}} \approx 0.7071\ldots$

Eine geometrisch-statistische Erklärung.

$n$ $2$ $X$$Y$$X$$Y$

$X$$Y$$r=0$

$X$$Y$

$X-Y$$X+Y$

$X-Y$$X+Y$$\sqrt{2\sigma^2}$$X$$X-Y$$X+Y$$0.707...$

Ich glaube, dass es auch hier eine einfache Intuition gibt, die auf Symmetrie basiert. Da X und Y die gleichen Verteilungen und eine Kovarianz von 0 haben, sollte die Beziehung von X ± Y zu X die Hälfte der Variation von X ± Y "erklären"; Die andere Hälfte sollte mit Y erklärt werden. Also sollte R ² 1/2 sein, was bedeutet, dass R 1 / √2 ≈ 0,707 ist.

Hier ist eine einfache Möglichkeit, darüber nachzudenken, warum hier überhaupt eine Korrelation besteht.

Stellen Sie sich vor, was passiert, wenn Sie zwei Verteilungen subtrahieren. Wenn der Wert von x niedrig ist, ist er im Durchschnitt x - yniedriger als wenn der Wert von x hoch ist. Mit zunehmendem x steigt dann x - yim Mittel eine positive Korrelation.