Unterschied zwischen ANOVA- und Kruskal-Wallis-Test

Ich lerne R und experimentiere mit der Varianzanalyse. Ich habe beide ausgeführt

kruskal.test(depVar ~ indepVar, data=df)

und

anova(lm(depVar ~ indepVar, data=dF))

Gibt es einen praktischen Unterschied zwischen diesen beiden Tests? Nach meinem Verständnis bewerten beide die Nullhypothese, dass die Populationen den gleichen Mittelwert haben.

Es gibt Unterschiede in den Annahmen und den Hypothesen, die getestet werden.

Die ANOVA (und der t-Test) ist explizit ein Test auf Gleichheit der Mittelwerte. Das Kruskal-Wallis (und Mann-Whitney) kann technisch als Vergleich der mittleren Ränge angesehen werden .

In Bezug auf die ursprünglichen Werte ist das Kruskal-Wallis daher allgemeiner als ein Mittelwertvergleich: Es wird geprüft, ob die Wahrscheinlichkeit, dass eine zufällige Beobachtung aus jeder Gruppe gleichermaßen über oder unter einer zufälligen Beobachtung aus einer anderen Gruppe liegt, gleich hoch ist. Die reale Datenmenge, die diesem Vergleich zugrunde liegt, ist weder die Differenz der Mittelwerte noch die Differenz der Mediane (im Fall mit zwei Stichproben), sondern der Median aller paarweisen Differenzen - die Differenz zwischen Stichproben von Hodges und Lehmann.

Wenn Sie sich jedoch für restriktive Annahmen entscheiden, kann Kruskal-Wallis als Test für die Gleichheit der Bevölkerungsmittel sowie für Quantile (z. B. Mediane) und in der Tat für eine Vielzahl anderer Maßnahmen angesehen werden. Das heißt, wenn Sie davon ausgehen , dass die Gruppenverteilungen unter der Nullhypothese gleich sind, und dass im Rahmen der Alternative, die einzige Änderung ist eine Verteilungsverschiebung (eine so genannte „ Location-Shift Alternative “), dann ist es auch ein Test der Gleichheit der Bevölkerungsmittel (und gleichzeitig der Mediane, der unteren Quartile usw.).

[Wenn Sie diese Annahme treffen, können Sie Schätzungen und Intervalle für die relativen Verschiebungen abrufen, genau wie Sie es mit ANOVA können. Nun, es ist auch möglich, Intervalle ohne diese Annahme zu erhalten, aber sie sind schwieriger zu interpretieren.]

Wenn Sie sich die Antwort hier ansehen , insbesondere gegen Ende, wird der Vergleich zwischen dem t-Test und dem Wilcoxon-Mann-Whitney erörtert, die (zumindest bei zweiseitigen Tests) ANOVA und Kruskal-Wallis entsprechen angewendet auf einen Vergleich von nur zwei Proben; es gibt ein wenig mehr Details und ein Großteil dieser Diskussion überträgt sich auf das Kruskal-Wallis gegen ANOVA.

Es ist nicht ganz klar, was Sie unter einem praktischen Unterschied verstehen. Sie verwenden sie im Allgemeinen auf eine im Allgemeinen ähnliche Weise. Wenn beide Sätze von Annahmen zutreffen, tendieren sie normalerweise dazu, ziemlich ähnliche Arten von Ergebnissen zu liefern, aber sie können in einigen Situationen sicherlich ziemlich unterschiedliche p-Werte liefern.

Bearbeiten: Hier ist ein Beispiel für die Ähnlichkeit der Inferenz auch bei kleinen Stichproben - hier ist der gemeinsame Akzeptanzbereich für die Ortsverschiebungen zwischen drei Gruppen (jeweils die zweite und dritte im Vergleich zur ersten) aus Normalverteilungen (mit kleinen Stichprobengrößen). für einen bestimmten Datensatz auf der 5% -Ebene:

Es sind zahlreiche interessante Merkmale zu erkennen - in diesem Fall der etwas größere Akzeptanzbereich für die KW, dessen Grenze aus vertikalen, horizontalen und diagonalen geraden Liniensegmenten besteht (es ist nicht schwer herauszufinden, warum). Die beiden Regionen erzählen sehr ähnliche Dinge über die Parameter, die hier von Interesse sind.

Ja da ist. Das anovaist ein parametrischer Ansatz , während kruskal.testein nicht parametrischer Ansatz. So kruskal.testbraucht keine verteilungs Annahme.
Wenn Ihre Daten aus praktischer Sicht verzerrt sind, ist anovadies kein guter Ansatz. Schauen Sie sich zum Beispiel diese Frage an.

$\Delta$

$(*)$$H_0\colon\{\Delta=0\}$$H_1\colon\{\Delta \neq 0\}$$(*)$$H_0$$H_0)$$(*)$$H_0\colon\{\text{the distributions are equal}\}$

$(*)$$\Delta >0$$\Delta$

$x$$y$$n=1000$$H_0$

set.seed(666)
n <- 1000
x <- rnorm(n)
y <- (2*rbinom(n,1,1/2)-1)*rnorm(n,3)
plot(density(x, from=min(y), to=max(y)))
lines(density(y), col="blue")

> kruskal.test(list(x,y))

    Kruskal-Wallis rank sum test

data:  list(x, y)
Kruskal-Wallis chi-squared = 2.482, df = 1, p-value = 0.1152

Wie ich am Anfang behauptet habe, bin ich mir über die genaue Konstruktion von KW nicht sicher. Vielleicht ist meine Antwort für einen anderen nichtparametrischen Test (Mann-Whitney? ..) korrekter, aber der Ansatz sollte ähnlich sein.

Kruskal-Wallis basiert eher auf Rang als auf Wert. Dies kann einen großen Unterschied machen, wenn es verzerrte Verteilungen gibt oder wenn es extreme Fälle gibt