Unkorrelation + Gelenknormalität = Unabhängigkeit. Warum? Intuition und Mechanik

Zwei Variablen, die nicht korreliert sind, sind nicht unbedingt unabhängig, wie einfach durch die Tatsache veranschaulicht wird, dass und nicht korreliert, aber nicht unabhängig sind. Es wird jedoch garantiert, dass zwei Variablen, die nicht korreliert UND gemeinsam normalverteilt sind, unabhängig sind. Kann jemand intuitiv erklären, warum dies wahr ist? Was genau trägt die gemeinsame Normalität zweier Variablen zur Kenntnis der Nullkorrelation zwischen zwei Variablen bei, was uns zu dem Schluss führt, dass diese beiden Variablen unabhängig sein MÜSSEN? $X$ $X^2$

correlation normal-distribution independence joint-distribution intuition ColorStatistics
quelle

Es ist im Allgemeinen nicht der Fall, dass und nicht korreliert sind (es sei denn, Sie stellen bestimmte Bedingungen an das , die sie unkorrelieren würden, aber Sie erwähnen keine).

X

$X$

X^{2}

$X^2$

X

$X$

Glen_b -State Monica

Zurück zu der Tatsache, dass sich Korrelation auf lineare Beziehungen bezieht, erklären Sie bitte, wie X ^ 2 linear mit X zusammenhängt. Zweitens scheinen Sie zu behaupten, dass X ^ 2 und X nicht nur linear miteinander verbunden sein können, sondern dass sie es auch sind In Anbetracht der Verwendung des Wortes "allgemein" meistens linear verwandt. Bitte erkläre. Vielen Dank.

ColorStatistics

@Glen_b ist genau richtig: und sind nur dann unkorreliert, wenn Sie den Bereich von speziell festlegen . Zum Beispiel Pearsons für und wenn die Stichprobe von auf Werte von im Bereich größer als 1 beschränkt wird. Probieren Sie es selbst aus (R. ):

X

$X$

X^{2}

$X^{2}$

X

$X$

r \approx 0.98

$r \approx 0.98$

X

$X$

X^{2}

$X^{2}$

X \sim N (0, 1)

$X\sim \mathcal{N}(0,1)$

X

$X$ X <- rnorm(n=10000); X2 <- X*X; cor(X[X>1],X2[X>1])

Alexis

@Alexis Es ist nicht nur der Bereich, sondern auch die Verteilung der Wahrscheinlichkeiten auf diese Werte innerhalb des Bereichs. Wenn Sie die Verteilung ändern, ändern Sie die Korrelation.

Glen_b -State Monica

@ColorStatistics Korrelation ist der Grad der linearen Beziehung, ja. Die Projektion von auf kann jedoch eine wesentliche lineare Komponente beinhalten. Wenn Sie ein Beispiel mit einer hohen linearen Korrelation zwischen einer Variablen und ihrem Quadrat sehen möchten, lassen Sie die Werte 0 und 1 mit gleicher Wahrscheinlichkeit annehmen (z. B. die Anzahl der Köpfe beim Werfen einer einzelnen fairen Münze aufzeichnen). Dann ist corr (!). Wenn Sie die Verteilung von angeben können, können Sie dafür sorgen, dass die Korrelation zwischen und einen beliebigen Wert zwischen und annimmt . ... ctd

x^{2}

$x^2$

x

$x$

X

$X$

(X, X^{2}) = 1

$(X,X^2)=1$

X

$X$

X

$X$

X^{2}

$X^2$

- 1

$-1$

1

$1$

Glen_b - Monica neu starten

Antworten:

Die gemeinsame Wahrscheinlichkeitsdichtefunktion (pdf) der bivariaten Normalverteilung ist:

f (x_{1}, x_{2}) = \frac{1}{2 π σ_{1} σ_{2} \sqrt{1 - ρ^{2}}} \exp [- \frac{z}{2 (1 - ρ^{2})}],

$f(x_1,x_2)=\frac 1{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp[-\frac z{2(1-\rho^2)}],$

z = \frac{(x_{1} - μ_{1})^{2}}{σ_{1}^{2}} - \frac{2 ρ (x_{1} - μ_{1}) (x_{2} - μ_{2})}{σ_{1} σ_{2}} + \frac{(x_{2} - μ_{2})^{2}}{σ_{2}^{2}} .

$z=\frac{(x_1-\mu_1)^2}{\sigma_1^2}-\frac{2\rho(x_1-\mu_1)(x_2-\mu_2)}{\sigma_1\sigma_2}+\frac{(x_2-\mu_2)^2}{\sigma_2^2}.$ Wenn , .

ρ = 0

$\rho = 0$

\begin{aligned} f (x_{1}, x_{2}) & = \frac{1}{2 π σ_{1} σ_{2}} \exp [- \frac{1}{2} {\frac{(x_{1} - μ_{1})^{2}}{σ_{1}^{2}} + \frac{(x_{2} - μ_{2})^{2}}{σ_{2}^{2}}}] \\ = \frac{1}{\sqrt{2 π} σ_{1}} \exp [- \frac{1}{2} {\frac{(x_{1} - μ_{1})^{2}}{σ_{1}^{2}}}] \frac{1}{\sqrt{2 π} σ_{2}} \exp [- \frac{1}{2} {\frac{(x_{2} - μ_{2})^{2}}{σ_{2}^{2}}}] \\ = f (x_{1}) f (x_{2}) \end{aligned}

$\begin{align}f(x_1,x_2) &=\frac 1{2\pi\sigma_1\sigma_2}\exp[-\frac 12\left\{\frac{(x_1-\mu_1)^2}{\sigma_1^2}+\frac{(x_2-\mu_2)^2}{\sigma_2^2}\right\} ]\\ & = \frac 1{\sqrt{2\pi}\sigma_1}\exp[-\frac 12\left\{\frac{(x_1-\mu_1)^2}{\sigma_1^2}\right\}] \frac 1{\sqrt{2\pi}\sigma_2}\exp[-\frac 12\left\{\frac{(x_2-\mu_2)^2}{\sigma_2^2}\right\}]\\ &= f(x_1)f(x_2)\end{align}$

Sie sind also unabhängig.

user158565
quelle

Ich war zwei Zeilen langsamer als du! (+1)

Jbowman

Danke euch allen. Eleganter Beweis. Es ist jetzt klar. Es scheint mir, dass ich angesichts des Beweisflusses hätte fragen sollen, welche Kenntnis der Nullkorrelation zur Kenntnis der Gelenknormalität beiträgt und nicht umgekehrt.

ColorStatistics

Was ist mit einer intuitiven Erklärung, warum es wahr ist?

ColorStatistics

Vielleicht gibt es keine intuitive einfache Erklärung.

user158565

Könnten wir eine gewisse Intuition in Bezug auf die Argumentation bekommen, dass die höheren (als 2) Momente eines Gaußschen Prozesses alle Null sind, und wenn wir die Nullkorrelationsbedingung (Moment 2) addieren, werden alle Momente größer als Eins auf Null festgelegt?

ColorStatistics

Die gemeinsame Normalität zweier Zufallsvariablen kann auf zwei einfache Arten charakterisiert werden: $X,Y$

Für jedes Paar von (nicht zufälligen) reellen Zahlen hat eine univariate Normalverteilung. $a,b$ $aX+bY$
Es gibt Zufallsvariablen und reelle Zahlen so dass $Z_1,Z_2\sim\operatorname{\text{i.i.d.}} \operatorname N(0,1)$ $a,b,c,d$
$\begin{aligned} X & = a Z_{1} + b Z_{2} \\ and Y & = c Z_{1} + d Z_{2} . \end{aligned}$ $\begin{align} X & = aZ_1+bZ_2 \\ \text{and } Y & = cZ_1 + dZ_2. \end{align}$

Dass die erste davon aus der zweiten folgt, ist leicht zu zeigen. Dass die zweite aus der ersten folgt, erfordert mehr Arbeit, und vielleicht werde ich bald darauf posten. . .

Wenn der zweite wahr ist, dann ist $\operatorname{cov}(X,Y) = ac + bd.$

Wenn diese Kovarianz die Vektoren orthogonal zueinander. Dann ist ein skalares Vielfaches der orthogonalen Projektion von auf und auf $0,$ $(a,b),$ $(c,d)$ $X$ $(Z_1,Z_2)$ $(a,b)$ $Y$ $(c,d).$

Verbinden Sie nun die Tatsache der Orthogonalität mit der Kreissymmetrie der Gelenkdichte von zu sehen, dass die Verteilung von der Verteilung von zwei Zufallsvariablen entsprechen sollte, von denen eine ein Skalar ist Vielfaches der orthogonalen Projektion von auf die Achse, dh es ist ein skalares Vielfaches von und das andere ist ähnlich ein skalares Vielfaches von $(Z_1,Z_2),$ $(X,Y)$ $(Z_1,Z_2)$ $x$ $Z_1,$ $Z_2.$

Michael Hardy
quelle