Warum verwendet der Unabhängigkeitstest die Chi-Quadrat-Verteilung?

Der -Anpassungstest verwendet die folgende Statistik : Im Test wird dies gewährt Wenn die Bedingungen erfüllt sind, verwendet man die - -Verteilung , um den p-Wert zu berechnen, der bei der dass wahr ist, in einer repräsentativen Stichprobe der gleichen Größe beobachtet werden würde. $\chi^2$

χ_{0}^{2} = \sum_{i = 1}^{n} \frac{(O_{i} - E_{i})^{2}}{E_{i}}

$\chi_0^2=\sum_{i=1}^n\frac{(O_i-E_i)^2}{E_i}$

χ^{2}

$\chi^2$

H_{0}

$H_0$

Damit jedoch eine Statistik einer -Verteilung (mit Freiheitsgraden) folgt , muss zutreffen: für unabhängiges, normales ( Wikipedia ). Die Bedingungen für den Test sind wie folgt (ebenfalls aus Wikipedia ): $\chi_0^2$ $\chi^2$ $n-1$

\sum_{i = 1}^{n} \frac{(O_{i} - E_{i})^{2}}{E_{i}} = \sum_{i = 1}^{n - 1} Z_{i}^{2}

$\sum_{i=1}^n\frac{(O_i-E_i)^2}{E_i}=\sum_{i=1}^{n-1}Z_i^2$

Z_{i}

$Z_i$

Stichprobe repräsentativ für die Bevölkerung
Große Stichprobengröße
Die erwartete Zellenzahl ist ausreichend groß
Unabhängigkeit zwischen jeder Kategorie

Aus den Bedingungen (1,2) ist klar, dass wir die Bedingungen für den Rückschluss von der Stichprobe auf die Population erfüllen. (3) scheint eine erforderliche Annahme zu sein, da der diskrete Zähler , der im Nenner liegt, nicht zu einer nahezu kontinuierlichen Verteilung für jedes und wenn er nicht groß genug ist, gibt es einen Fehler, der mit Yates korrigiert werden kann 'Korrektur - Dies scheint darauf zurückzuführen zu sein, dass eine diskrete Verteilung im Grunde genommen eine "ununterbrochene" ist, so dass die Verschiebung um für jede einzelne dies korrigiert. $E_i$ $Z_i$ $1/2$

Die Notwendigkeit von (4) scheint sich später als nützlich zu erweisen, aber ich kann nicht erkennen, wie.

Zuerst dachte ich, dass erforderlich ist, damit die Statistik mit der Verteilung übereinstimmt. Dies führte mich zu der fragwürdigen Annahme, dass , was in der Tat falsch war. Tatsächlich ergibt sich aus der Verringerung der Dimension für zwei Seiten der Gleichheit von auf dass dies nicht der Fall sein kann. $Z_i=\frac{O_i-E_i}{\sqrt{E_i}}$ $O_i-E_i\sim \mathcal{N}(0, \sqrt{E_i})$ $n$ $n-1$

Dank Whubers Erklärungen hat sich gezeigt, dass nicht gleich jedem Term sein muss, weil (beachten Sie die Verringerung der Anzahl der summierten Variablen) für normale Standard-Zufallsvariablen die funktional unabhängig sind. $Z_i$ $\frac{O_i-E_i}{\sqrt{E_i}}$ $\chi_0^2=\sum_{i=1}^{n-1}Z_i^2$ $Z_i$

Meine Frage ist also, wie kann der Verteilung folgen ? Welche Arten von Kombinationen von jedem der ergeben quadratische Standardnormalen ? Dies erfordert anscheinend die Verwendung des CLT (und das macht Sinn), aber wie? Mit anderen Worten , was ist jedes gleich (oder ungefähr gleich)? $\chi_0^2$ $\chi^2$ $\frac{(O_i-E_i)^2}{E_i}$ $Z_i^2$ $Z_i$

hypothesis-testing chi-squared VF1
quelle

Ich bin neugierig, wo Sie lesen, dass jemand das letzte, was Sie angegeben haben, annimmt ( ). Dies ist nicht erforderlich: Die Statistik kann eine Verteilung aufweisen (zumindest in einer äußerst guten Näherung), ohne dass diese standardisierten Residuen eine Normalverteilung aufweisen. Die Frage, die Sie sich stellen möchten, ist, wie diese Annahmen es rechtfertigen, die Statistik auf eine Verteilung zu verweisen . An sich tun sie das nicht. Eine Diskussion darüber, was schief gehen kann, finden Sie in meinem Beitrag unter stats.stackexchange.com/a/17148 .

O_{i} - E_{i} \sim N (0, \sqrt{E_{i}})

$O_i-E_i\sim \mathcal{N}(0, \sqrt{E_i})$

χ^{2}

$\chi^2$

χ^{2}

$\chi^2$ $\chi^2$ $\chi^2$

whuber

Aus der Gleichheit von zwei Quadratsummen kann man nicht schließen, dass die Quadratwurzeln Begriff für Begriff gleich sind! Da dies bei reinen Zahlen der Fall ist, ist dies sicherlich auch bei Zufallsvariablen der Fall.

Whuber

Um dies konkret zu machen, wird angenommen, sind unabhängig verteilt mit Verteilungen mit Freiheitsgraden und dem aber für alle . Dann hat, obwohl keines der normal ist, eine -Verteilung.

(W_{i}), i = 1, \dots, n

$(W_i),i=1, \ldots,n$

χ

$\chi$

ν_{1}, ν_{2}, \dots, ν_{n}

$\nu_1,\nu_2,\ldots,\nu_n$

ν_{1} + ν_{2} + \dots + ν_{n} = n - 1

$\nu_1+\nu_2+\cdots+\nu_n=n-1$

ν_{i} \neq 1

$\nu_i\ne 1$

i

$i$

W_{i}

$W_i$

\sum_{i = 1}^{n} W_{i}^{2}

$\sum_{i=1}^n W_i^2$

χ^{2} (n - 1)

$\chi^2(n-1)$

Whuber

Wenn Sie unter "Quadratische Normale" die Summe unabhängiger quadratischer Normale verstehen, dann ist dies die Frage, die Sie meiner Meinung nach am Anfang unbedingt stellen wollten :-). Und am Ende berufen sich die meisten Situationsanalysen tatsächlich auf den zentralen Grenzwertsatz, um zu beweisen, dass die standardisierten Residuen asymptotisch normal sind (aber nicht ganz unabhängig, weshalb die Freiheitsgrade und nicht ).

n - 1

$n-1$

n

$n$

Whuber

+1 für das, was ich erwarte, wird bald eine sehr gute Frage sein. Das erste Problem ist, dass der Unabhängigkeitstest nicht die behauptete Statistik verwendet. Die am Anfang angegebene Statistik ist eindimensional (eine Summe über Kategorien), während ein Unabhängigkeitstest mehr als eine Variable erfordert. Bitte bearbeiten Sie, damit der Name des Tests und die Statistik übereinstimmen.

n

$n$

Glen_b

Antworten:

Es geht um die Poisson-Verteilung. Wenn Poisson mit Mittelwert , dann ist die Varianz von ist auch. Dies bedeutet, dass eine ähnliche Entität ist. Durch das CLT tendiert das Poisson zur Normalität, wenn der Mittelwert groß wird, und hier kommt das Chi-Quadrat ins Spiel. Ja, es ist ein asymptotischer Test. $X$ $\lambda$ $X$ $\lambda$

\frac{(X - λ)^{2}}{λ}

$\frac{(X-\lambda)^2}{\lambda}$

z^{2}

$z^2$

Die Freiheitsgrade ergeben sich aus dem Satz von Cochran. Grundsätzlich erklärt Cochran, wie das Chi-Quadrat bei einer linearen Transformation der Scores transformiert wird (oder unverändert bleibt) . $z^2$

\sum_{i} z_{i}^{2} = Z^{'} I Z

$\sum_i z_i^2=Z' I Z$

in Matrixnotation. Wenn stattdessen die übliche Summe der Quadrate der Berechnung Sie berechnen für einige Matrix Q, dann bekommt man noch eine Menge mit aa Chi-Quadrat - Verteilung, aber die Freiheitsgrade sind jetzt der Rang von . Es gibt mehr Bedingungen auf der Matrix Q, aber das ist der Kern davon.

Z^{'} Q Z

$Z' Q Z$

Q

$Q$

Wenn Sie mit einer Matrixnotation , können Sie als quadratische Form ausdrücken . Cochran geht von der Unabhängigkeit der ursprünglichen Normalvariablen aus, weshalb auch die Spalten Ihrer Zählungstabelle unabhängig sein müssen.

\sum_{i} (z_{i} - \bar{z})^{2}

$\sum_i (z_i-\bar{z})^2$

Placidia
quelle

Entschuldigung, aber Sie haben mich definitiv verloren bei "Wenn Sie das stattdessen tun ..."

VF1

@ VF1, ich habe eine Änderung vorgenommen, daher hoffe ich, dass es klarer wird. Der Satz von Cochrane ist die Antwort auf Ihre Frage, wann eine Summe von Quadraten mit Normalen eine Chi-Quadrat-Verteilung hat.

Placidia

OK, ich werde mir das mal ansehen. Ich lasse die Frage jedoch offen, falls jemand anderes etwas hinzuzufügen hat.

VF1

Normalerweise ist die Stichprobengröße festgelegt. Das heißt, es ist unmöglich, dass einer der Einträge einer Poisson-Verteilung folgt. Der Reiz einer Poisson-Distribution scheint daher nur eine weitere Annäherung zu sein - und scheint uns genau dort zu belassen, wo wir angefangen haben.

Whuber

Laut Lehrbuch "Einführende Statistik mit Randomisierung und Simulation", Abschnitt 3.3.2 (Lehrbuch bei OpenIntro frei verfügbar ), versucht die Teststatistik, die Abweichungen des Beobachteten vom Erwarteten zu akkumulieren. Und die Abweichungen werden in der Tat durch den Begriff ausgedrückt $\chi^2$

Z_{i} = \frac{O_{i} - E_{i}}{\sqrt{E_{i}}}

$Z_i = \frac{O_i - E_i}{\sqrt{E_i}}$

was eigentlich von .

\frac{O_{i} - E_{i}}{(S t a n d a r d E r r o r O f T h e O b s e r v e d)}

$\frac{O_i - E_i}{(Standard Error Of The Observed)}$

Das Lehrbuch geht weiter zu sagen , daß die wird besser geschätzt durch $(StandardErrorOfTheObserved)$ , so wird der Term zu $\sqrt{E_i}$ . Das Lehrbuch erklärt eigentlich nicht, warum diese Substitution akzeptabel ist, und ich würde es auch gerne herausfinden. $Z_i = \frac{O_i - E_i}{\sqrt{E_i}}$

Wie auch immer, Sie können eine Teststatistik des Formulars erstellen

Z = | Z_{1} | + | Z_{2} | + | Z_{3} | + . . .

$Z = |Z_1| + |Z_2| + |Z_3| + ...$

Es ist jedoch besser, alle Terme zu quadrieren, da Sie sofort positive Werte erhalten und die höheren Werte nach dem Quadrieren stärker hervorgehoben werden. Man erhält also:

χ^{2} = Z_{1}^{2} + Z_{2}^{2} + Z_{3}^{2} + . . .

$\chi^2 = Z_1^2 + Z_2^2 + Z_3^2 +...$

Aber ich weiß auch nicht, warum diese Summe der Verteilung folgen soll oder wie sie mit der Definition der Verteilung (Summe der Quadrate der normalen unabhängigen Variablen) zusammenhängt. $\chi^2$ $\chi^2$

EDIT: Ich lerne immer noch Statistik und glaube immer noch nicht, dass ich den Test richtig verstehe . Ich hoffe andere können mich auch aufklären. $\chi^2$

CamilB
quelle