Warum ist Korrelation nicht sehr nützlich, wenn eine der Variablen kategorisch ist?

Dies ist ein kleiner Bauchcheck. Bitte helfen Sie mir zu sehen, ob und auf welche Weise ich dieses Konzept missverstehe.

Ich habe ein funktionales Verständnis von Korrelation, aber ich fühle mich ein wenig amüsiert, um die Prinzipien hinter diesem funktionalen Verständnis wirklich sicher zu erklären.

Nach meinem Verständnis ist die statistische Korrelation (im Gegensatz zur allgemeineren Verwendung des Begriffs) ein Weg, um zwei kontinuierliche Variablen zu verstehen und wie sie in ähnlicher Weise steigen oder fallen oder nicht.

Der Grund, warum Sie keine Korrelationen für beispielsweise eine kontinuierliche und eine kategoriale Variable ausführen können, ist, dass es nicht möglich ist, die Kovarianz zwischen den beiden zu berechnen , da die kategoriale Variable per Definition keinen Mittelwert liefern und daher nicht einmal in die erste Variable eintreten kann Schritte der statistischen Analyse.

Ist das richtig?

Die Korrelation ist die standardisierte Kovarianz, dh die Kovarianz von $x$ und $y$ geteilt durch die Standardabweichung von $x$ und $y$ . Lassen Sie mich das veranschaulichen.

Vereinfacht gesagt, können Statistiken zusammengefasst werden, um Modelle an Daten anzupassen und zu bewerten, wie gut das Modell diese Datenpunkte beschreibt ( Ergebnis = Modell + Fehler ). Eine Möglichkeit besteht darin, die Summe der Abweichungen oder Residuen (Res) aus dem Modell zu berechnen:

$res= \sum(x_{i}-\bar{x})$

Viele statistische Berechnungen basieren darauf. der Korrelationskoeffizient (siehe unten).

Hier ist ein Beispieldatensatz aus R(die Residuen werden als rote Linien angezeigt und ihre Werte werden daneben hinzugefügt):

X <- c(8,9,10,13,15)  
Y <- c(5,4,4,6,8)

X=11Y=5.4$SS$

$SS = \sum(x_i-\bar{x})(x_i-\bar{x}) = \sum(x_i-\bar{x})^2$

$n-1$$s^2$

$s^2 = \frac{SS}{n-1} = \frac{\sum(x_i-\bar{x})(x_i-\bar{x})}{n-1} = \frac{\sum(x_i-\bar{x})^2}{n-1}$

Der Einfachheit halber kann die Quadratwurzel der Stichprobenvarianz genommen werden, die als Stichprobenstandardabweichung bekannt ist:

$s=\sqrt{s^2}=\sqrt{\frac{SS}{n-1}}=\sqrt{\frac{\sum(x_i-\bar{x})^2}{n-1}}$

Die Kovarianz bewertet nun, ob zwei Variablen miteinander in Beziehung stehen. Ein positiver Wert zeigt an, dass eine Variable vom Mittelwert abweicht und die andere Variable in dieselbe Richtung abweicht.

$cov_{x,y}= \frac{\sum(x_i-\bar{x})(y_i-\bar{y})}{n-1}$

$r$

$r=\frac{cov_{x,y}}{s_x s_y} = \frac{\sum(x_1-\bar{x})(y_i-\bar{y})}{(n-1) s_x s_y}$

$r=0.87$XY

Also lange Rede, kurzer Sinn, ja, Ihr Gefühl ist richtig, aber ich hoffe, meine Antwort kann einen Kontext liefern.

Sie haben (fast) recht. Die Kovarianz (und damit auch die Korrelation) kann nur zwischen numerischen Variablen berechnet werden. Dazu gehören kontinuierliche Variablen, aber auch diskrete numerische Variablen.

Kategoriale Variablen könnten verwendet werden, um die Korrelation zu berechnen, wenn ihnen nur ein nützlicher numerischer Code zur Verfügung steht. Dies wird jedoch wahrscheinlich keinen praktischen Vorteil bringen - möglicherweise ist dies für einige kategoriale Variablen mit zwei Ebenen hilfreich, andere Tools sind jedoch geeigneter.

Es ist absolut nichts falsch daran, Korrelationen zu berechnen, bei denen eine der Variablen kategorisch ist. Eine starke positive Korrelation würde bedeuten, dass das Aktivieren (oder Deaktivieren) Ihrer kategorialen Variablen zu einer Erhöhung der Antwort führt. Dies kann beispielsweise bei der Berechnung einer logistischen Regression auftreten, bei der Variablen kategorisch sind: Vorhersagen der Wahrscheinlichkeit eines Herzinfarkts bei Komorbiditäten von Patienten wie Diabetes und bmi. In diesem Fall hätte der BMI eine sehr starke Korrelation mit Herzinfarkten. Würden Sie daraus schließen, dass das nicht nützlich ist?