Was ist Kovarianz im Klartext?

92

Was ist Kovarianz im Klartext und wie hängt sie mit den Begriffen Abhängigkeit , Korrelation und Varianz-Kovarianz-Struktur in Bezug auf Wiederholungsentwürfe zusammen?

Stan
quelle

Antworten:

82

Die Kovarianz ist ein Maß dafür, wie Änderungen in einer Variablen mit Änderungen in einer zweiten Variablen verknüpft sind. Konkret misst die Kovarianz den Grad der linearen Zuordnung zweier Variablen. Es wird jedoch auch häufig informell als allgemeines Maß dafür verwendet, wie monoton zwei Variablen zusammenhängen. Es gibt viele nützliche intuitive Erklärungen der Kovarianz hier .

In Bezug darauf, wie Kovarianz mit jedem der von Ihnen genannten Begriffe zusammenhängt:

[-1,1]±10

00

                Bildbeschreibung hier eingeben

0

(3) Die Varianz / Kovarianz-Struktur (oft einfach als Kovarianz-Struktur bezeichnet ) in Konstruktionen mit wiederholten Messungen bezieht sich auf die Struktur, die verwendet wird, um die Tatsache zu modellieren, dass wiederholte Messungen an Individuen potenziell korrelieren (und daher abhängig sind) - dies erfolgt durch Modellierung der Einträge in der Kovarianzmatrix der wiederholten Messungen. Ein Beispiel ist die austauschbare Korrelationsstruktur mit konstanter Varianz, die angibt, dass jede wiederholte Messung dieselbe Varianz aufweist und alle Messpaare gleichermaßen korreliert sind. Eine bessere Wahl könnte darin bestehen, eine Kovarianzstruktur anzugeben, bei der zwei Messungen, die zeitlich weiter voneinander entfernt sind, weniger korreliert sein müssen (z. B.ein autoregressives Modell ). Es ist zu beachten, dass der Begriff Kovarianzstruktur in vielen Arten von multivariaten Analysen, bei denen Beobachtungen korreliert werden dürfen, allgemeiner vorkommt.

Makro
quelle
2
Ihre Erklärung ist nett. Es folgt eine wertvolle Ergänzung, die eine interessante Reihe von Kommentaren hervorrief. Vielen Dank an alle :)!
stan
23

Die Antwort von Macro ist hervorragend, aber ich möchte noch mehr hinzufügen, wie Kovarianz mit Korrelation zusammenhängt. Die Kovarianz sagt Ihnen nicht wirklich etwas über die Stärke der Beziehung zwischen den beiden Variablen aus, während dies bei der Korrelation der Fall ist. Zum Beispiel:

x = [1, 2, 3]
y = [4, 6, 10]

cov(x,y) = 2 #I am using population covariance here

Nun ändern wir die Skalierung und multiplizieren x und y mit 10

x = [10, 20, 30]
y = [40, 60, 100]

cov(x, y) = 200

Das Ändern des Maßstabs sollte die Stärke der Beziehung nicht erhöhen, daher können wir die Kovarianzen durch Standardabweichungen von x und y dividieren, was genau die Definition des Korrelationskoeffizienten ist.

In beiden obigen Fällen ist der Korrelationskoeffizient zwischen x und y 0.98198.

Akavall
quelle
6
"Covarianz sagt Ihnen nicht wirklich etwas über die Stärke der Beziehung zwischen den beiden Variablen aus, während dies bei der Korrelation der Fall ist." Diese Aussage ist völlig falsch. Die zwei Maße sind identische Moduloskalierung durch die zwei Standardabweichungen.
David Heffernan
15
@ DavidHeffernan, ja, wenn mit Standardabweichungen skaliert, gibt die Kovarianz Auskunft über die Stärke der Beziehung. Die Kovarianzmessung selbst sagt uns dies jedoch nicht.
Akavall
10
@ DavidHeffernan, ich denke, was Akavall sagt, ist, dass wenn Sie die Skala der Variablen nicht kennen, die Kovarianz Ihnen nichts über die Stärke der Beziehung sagt - nur das Vorzeichen kann interpretiert werden.
Makro
6
In welcher praktischen Situation können Sie eine Kovarianz erhalten, ohne auch eine gute Schätzung des Maßstabs der Variablen erhalten zu können?
David Heffernan
7
Es ist jedoch nicht immer erforderlich, die Standardabweichung zu kennen, um den Maßstab einer Variablen und damit die Stärke einer Beziehung zu verstehen. Nicht standardisierte Effekte sind oft informativ. Wenn zum Beispiel ein Schulungskurs dazu führt, dass die Menschen ihr Einkommen im Durchschnitt um 10.000 US-Dollar pro Jahr erhöhen, ist dies wahrscheinlich ein besserer Hinweis auf die Stärke der Wirkung, als zu sagen, dass eine Korrelation zwischen der Durchführung des Kurses und dem Einkommen bestand.
Jeromy Anglim