Behobener Effekt gegen zufälligen Effekt, wenn alle Möglichkeiten in einem gemischten Effektmodell enthalten sind

In einem Modell mit gemischten Effekten wird empfohlen, einen Parameter anhand eines festen Effekts zu schätzen, wenn alle möglichen Werte enthalten sind (z. B. sowohl Männer als auch Frauen). Es wird weiterhin empfohlen, einen Zufallseffekt zu verwenden, um eine Variable zu berücksichtigen, wenn die enthaltenen Werte nur eine Zufallsstichprobe aus einer Population sind (eingeschriebene Patienten aus dem Universum möglicher Patienten) und Sie den Populationsmittelwert und die Varianz anstelle der Mittelwerte schätzen möchten der einzelnen Faktorstufen.

Ich frage mich, ob Sie logischerweise verpflichtet sind, immer einen festen Effekt auf diese Weise zu verwenden. Betrachten Sie eine Studie darüber, wie sich die Größe des Fußes / Schuhs im Laufe der Entwicklung ändert und beispielsweise mit Größe, Gewicht und Alter zusammenhängt. ${\rm Side}$Es muss eindeutig in das Modell aufgenommen werden, um die Tatsache zu berücksichtigen, dass die Messungen über die Jahre in einem bestimmten Fuß verschachtelt und nicht unabhängig sind. Darüber hinaus sind rechts und links alle Möglichkeiten, die existieren können. Darüber hinaus kann es sehr wahr sein, dass für einen bestimmten Teilnehmer sein rechter Fuß größer (oder kleiner) als sein linker ist. Obwohl sich die Fußgröße bei allen Menschen etwas zwischen den Füßen unterscheidet, gibt es keinen Grund zu der Annahme, dass die rechten Füße im Durchschnitt größer sind als die linken Füße. Wenn sie sich in Ihrer Stichprobe befinden, liegt dies vermutlich eher an der Genetik der Personen in Ihrer Stichprobe als an etwas, das für die Rechtschaffenheit von Bedeutung ist. Schließlich scheint ein Störparameter zu sein, der Sie nicht wirklich interessiert. ${\rm side}$

Lassen Sie mich feststellen, dass ich dieses Beispiel erfunden habe. Es kann nicht gut sein; es ist nur um die Idee zu vermitteln. Nach allem, was ich weiß, war ein großer rechter und ein kleiner linker Fuß notwendig, um im Paläolithikum zu überleben.

Wäre es in einem solchen Fall (mehr / weniger / überhaupt) sinnvoll, als Zufallseffekt in das Modell einzubeziehen? Was wäre das Für und Wider, wenn man hier einen festen oder zufälligen Effekt verwenden würde? ${\rm side}$

Das allgemeine Problem bei "festen" und "zufälligen" Effekten besteht darin, dass sie nicht einheitlich definiert sind. Andrew Gelman zitiert einige von ihnen:

(1) Fixe Effekte sind bei allen Individuen konstant und zufällige Effekte variieren. Beispielsweise entspricht in einer Wachstumsstudie ein Modell mit zufälligen Abschnitten und fester Steigung b parallelen Linien für verschiedene Individuen i oder dem Modell y i t = a i + b t . Kreft und De Leeuw (1998) unterscheiden daher zwischen festen und zufälligen Koeffizienten.$a_i$$b$$i$$y_{it} = a_i + b_t$

(2) Effekte werden fixiert, wenn sie für sich selbst interessant sind oder zufällig, wenn Interesse an der zugrunde liegenden Population besteht. Searle, Casella und McCulloch (1992, Abschnitt 1.4) untersuchen diese Unterscheidung eingehend.

(3) „Wenn eine Stichprobe die Grundgesamtheit erschöpft, ist die entsprechende Variable festgelegt; Wenn die Stichprobe ein kleiner (dh vernachlässigbarer) Teil der Bevölkerung ist, ist die entsprechende Variable zufällig. “(Green und Tukey, 1960)

(4) „Wenn angenommen wird, dass ein Effekt ein realisierter Wert einer Zufallsvariablen ist, spricht man von einem Zufallseffekt.“ (LaMotte, 1983)

(5) Fixe Effekte werden unter Verwendung der kleinsten Quadrate (oder allgemeiner der maximalen Wahrscheinlichkeit) geschätzt, und zufällige Effekte werden mit Schrumpfung geschätzt ("lineare unverzerrte Vorhersage" in der Terminologie von Robinson, 1991). Diese Definition ist Standard in der Literatur zur Mehrebenenmodellierung (siehe z. B. Snijders und Bosker, 1999, Abschnitt 4.2) und in der Ökonometrie.

und bemerkt, dass sie nicht konsistent sind. In seinem Buch Data Analysis Using Regression und Multilevel / Hierarchical Models vermeidet er im Allgemeinen die Verwendung dieser Begriffe und konzentriert sich in seiner Arbeit auf feste oder zwischen Gruppen variierende Abschnitte und Steigungen, weil

Feste Effekte können als Sonderfälle von Zufallseffekten angesehen werden, bei denen die höhere Varianz (in Modell (1.1) wäre dies ) auf 0 oder ∞ gesetzt wird . Daher sind in unserem Rahmen alle Regressionsparameter „zufällig“ und der Begriff „Mehrebenen“ umfasst alles.$\sigma^2_\alpha$$0$$\infty$

Dies gilt insbesondere für das Bayes'sche Gerüst, das üblicherweise für gemischte Modelle verwendet wird, bei denen alle Effekte per se zufällig sind. Wenn Sie an Bayes denken, sind Sie nicht wirklich mit "festen" Effekten und Punktschätzungen beschäftigt und haben kein Problem damit, alle Effekte als zufällig zu behandeln.

Je mehr ich zu diesem Thema lese, desto mehr bin ich davon überzeugt, dass es sich eher um eine ideologische Diskussion darüber handelt, was wir einschätzen können (oder sollten) und was wir nur vorhersagen können (hier könnte ich auch auf Ihre eigene Antwort verweisen ). Sie verwenden Zufallseffekte, wenn Sie eine Zufallsstichprobe möglicher Ergebnisse haben, sodass Sie sich nicht um individuelle Schätzungen kümmern und sich eher um die Bevölkerungseffekte als um Einzelpersonen. Die Beantwortung Ihrer Frage hängt also auch davon ab, was Sie denken, wenn Sie die festen Auswirkungen Ihrer Daten abschätzen möchten oder können . Wenn alle möglichen Ebenen in Ihren Daten enthalten sind, können SieFeste Effekte abschätzen - auch wie in Ihrem Beispiel könnte die Anzahl der Ebenen gering sein, und das wäre im Allgemeinen nicht gut für die Schätzung von zufälligen Effekten, und es gibt einige Mindestanforderungen dafür .

Argument für das beste Szenario

Angenommen, Sie haben unbegrenzte Datenmengen und unbegrenzte Rechenleistung. In diesem Fall können Sie sich vorstellen, jeden Effekt als fix einzuschätzen, da fixe Effekte Ihnen mehr Flexibilität bieten (damit wir die einzelnen Effekte vergleichen können). Aber selbst in diesem Fall würden die meisten von uns nur ungern feste Effekte für alles verwenden.

Stellen Sie sich beispielsweise vor, Sie möchten die Prüfungsergebnisse von Schulen in einer Region modellieren und verfügen über Daten zu allen 100 Schulen in der Region. In diesem Fall könnten Sie Bedrohung Schulen als Fest - da Sie Daten auf allen Ebenen haben - aber in der Praxis würde man wohl eher denken an sie als zufällig. Warum das?

1. Ein Grund dafür ist, dass Sie in der Regel in solchen Fällen nicht an den Auswirkungen einzelner Schulen interessiert sind (und es ist schwierig, alle zu vergleichen), sondern an einer allgemeinen Variabilität zwischen den Schulen.

2. Ein weiteres Argument hier ist vorbildliche Sparsamkeit. Im Allgemeinen sind Sie nicht an "jedem möglichen Einfluss" -Modell interessiert, daher enthalten Sie in Ihrem Modell einige feste Effekte, die Sie testen und auf die anderen möglichen Variabilitätsquellen hin kontrollieren möchten. Dadurch passen Modelle mit gemischten Effekten in die allgemeine Denkweise der statistischen Modellierung, in der Sie etwas schätzen und für andere Dinge steuern. Bei komplizierten (mehrstufigen oder hierarchischen) Daten müssen Sie viele Effekte einbeziehen, sodass Sie einige als "fest" und andere als "zufällig" androhen, um sie zu kontrollieren.

3. In diesem Szenario würden Sie auch nicht davon ausgehen, dass jede Schule ihren eigenen, einzigartigen Einfluss auf die Ergebnisse hat, sondern eher, dass die Schulen im Allgemeinen einen gewissen Einfluss haben. Dieses Argument wäre also, dass wir der Meinung sind, dass es nicht wirklich möglich ist, die einzigartigen Auswirkungen einzelner Schulen abzuschätzen, und dass wir sie daher als zufällige Stichprobe möglicher Schuleffekte bedrohen.

Modelle mit gemischten Effekten liegen irgendwo zwischen "alles fest" und "alles zufällig". Die Daten, auf die wir stoßen, führen dazu, dass wir unsere Erwartungen hinsichtlich der Schätzung aller Effekte als festgelegte Effekte senken. Daher entscheiden wir, welche Effekte wir vergleichen und welche Effekte wir steuern möchten, oder ob wir ein allgemeines Gefühl für deren Einfluss haben. Es geht nicht nur darum, was die Daten sind, sondern auch darum, wie wir die Daten während der Modellierung betrachten.

Zusammenfassung

Es wird in der Tat oft gesagt, dass, wenn alle möglichen Faktorstufen in einem gemischten Modell enthalten sind, dieser Faktor als fester Effekt behandelt werden sollte. Dies gilt nicht unbedingt AUS ZWEI EINZIGARTIGEN GRÜNDEN:

(1) Wenn die Anzahl der Ebenen groß ist, kann es sinnvoll sein, den [gekreuzten] Faktor als zufällig zu behandeln.

Ich stimme hier sowohl mit @Tim als auch mit @RobertLong überein: Wenn ein Faktor eine große Anzahl von Ebenen hat, die alle in das Modell einbezogen sind (wie z. B. alle Länder der Welt; oder alle Schulen in einem Land; oder vielleicht die gesamte Bevölkerung von Probanden werden befragt, usw.), dann ist nichts falsch daran, sie als zufällig zu behandeln - dies könnte sparsamer sein, könnte zu einer gewissen Schrumpfung führen, usw.

lmer(size ~ age + subjectID)                     # fixed effect
lmer(size ~ age + (1|subjectID))                 # random effect

(2) Wenn der Faktor in einem anderen zufälligen Effekt verschachtelt ist, muss er unabhängig von der Anzahl der Ebenen als zufällig behandelt werden.

In diesem Thread gab es eine große Verwirrung (siehe Kommentare), da sich andere Antworten auf den obigen Fall Nr. 1 beziehen, aber das Beispiel, das Sie gegeben haben, ist ein Beispiel für eine andere Situation, nämlich diesen Fall Nr. 2. Hier gibt es nur zwei Ebenen (dh überhaupt nicht "eine große Zahl"!) Und sie erschöpfen alle Möglichkeiten, aber sie sind in einem anderen Zufallseffekt verschachtelt, was zu einem verschachtelten Zufallseffekt führt.

lmer(size ~ age + (1|subject) + (1|subject:side)  # side HAS to be random

---

Detaillierte Diskussion Ihres Beispiels

Seiten und Themen in Ihrem imaginären Experiment sind wie Klassen und Schulen im Standardbeispiel für hierarchische Modelle verwandt. Vielleicht hat jede Schule (Nr. 1, Nr. 2, Nr. 3 usw.) Klasse A und Klasse B, und diese beiden Klassen sollten ungefähr gleich sein. Sie werden die Klassen A und B nicht als festen Effekt mit zwei Ebenen modellieren. Das wäre ein Fehler. Sie werden die Klassen A und B jedoch auch nicht als "getrennten" (dh gekreuzten) Zufallseffekt mit zwei Ebenen modellieren. Das wäre auch ein Fehler. Stattdessen modellieren Sie Klassen als verschachtelten Zufallseffekt in Schulen.

Siehe hier: Gekreuzte versus verschachtelte zufällige Effekte: Wie unterscheiden sie sich und wie werden sie in lme4 korrekt angegeben?

$i=1\ldots n$$j=1,2$

$$\text{Size}_{ijk} = \mu+\alpha\cdot\text{Height}_{ijk}+\beta\cdot\text{Weight}_{ijk}+\gamma\cdot\text{Age}_{ijk}+\epsilon_i + \color{red}{\epsilon_{ij}} + \epsilon_{ijk}$$ $$\epsilon_i\sim\mathcal N(0,\sigma^2_\mathrm{subjects}),\quad\quad\text{Random intercept for each subject}$$ $$\color{red}{\epsilon_{ij}}\sim\mathcal N(0,\sigma^2_\text{subject-side}),\quad\quad\text{Random int. for side nested in subject}$$ $$\epsilon_{ijk}\sim\mathcal N(0,\sigma^2_\text{noise}),\quad\quad\text{Error term}$$

Wie Sie selbst geschrieben haben, "gibt es keinen Grund zu der Annahme, dass die rechten Füße im Durchschnitt größer sind als die linken Füße". Es sollte also überhaupt keinen "globalen" Effekt (weder fest noch zufällig gekreuzt) des rechten oder linken Fußes geben. Stattdessen kann man sich vorstellen, dass jedes Subjekt "einen" Fuß und "einen anderen" Fuß hat, und diese Variabilität sollten wir in das Modell einbeziehen. Diese "einen" und "anderen" Füße sind in Subjekten verschachtelt, daher verschachtelte zufällige Effekte.

Weitere Details in Antwort auf die Kommentare. [26. September]

In meinem obigen Modell ist Side als verschachtelter Zufallseffekt in Subjects enthalten. Hier ist ein alternatives Modell, vorgeschlagen von @Robert, bei dem Side ein fester Effekt ist:

$$\text{Size}_{ijk} = \mu+\alpha\cdot\text{Height}_{ijk}+\beta\cdot\text{Weight}_{ijk}+\gamma\cdot\text{Age}_{ijk} + \color{red}{\delta\cdot\text{Side}_j}+\epsilon_i + \epsilon_{ijk}$$

$ij$

Es kann nicht.

Gleiches gilt für @ gungs hypothetisches Modell mit Side als gekreuztem Zufallseffekt:

$$\text{Size}_{ijk} = \mu+\alpha\cdot\text{Height}_{ijk}+\beta\cdot\text{Weight}_{ijk}+\gamma\cdot\text{Age}_{ijk} +\epsilon_i + \color{red}{\epsilon_j} + \epsilon_{ijk}$$

Abhängigkeiten werden nicht berücksichtigt.

Demonstration über eine Simulation [2. Oktober]

Hier ist eine direkte Demonstration in R.

Ich erstelle einen Spielzeugdatensatz mit fünf Probanden, die fünf Jahre lang an beiden Füßen gemessen wurden. Der Effekt des Alters ist linear. Jedes Subjekt hat einen zufälligen Schnittpunkt. Und jedes Motiv hat einen Fuß (entweder den linken oder den rechten), der größer ist als der andere.

set.seed(17)

demo = data.frame(expand.grid(age = 1:5,
                              side=c("Left", "Right"),
                              subject=c("Subject A", "Subject B", "Subject C", "Subject D", "Subject E")))
demo$size = 10 + demo$age + rnorm(nrow(demo))/3

for (s in unique(demo$subject)){
  # adding a random intercept for each subject 
  demo[demo$subject==s,]$size = demo[demo$subject==s,]$size + rnorm(1)*10

  # making the two feet of each subject different     
  for (l in unique(demo$side)){
    demo[demo$subject==s & demo$side==l,]$size = demo[demo$subject==s & demo$side==l,]$size + rnorm(1)*7
  }
}

plot(1:50, demo$size)

Entschuldigung für meine schrecklichen R-Fähigkeiten. So sehen die Daten aus (jeweils fünf aufeinanderfolgende Punkte entsprechen einem Fuß einer Person im Laufe der Jahre; jeweils zehn aufeinanderfolgende Punkte entsprechen zwei Fuß derselben Person):

Jetzt können wir eine Reihe von Modellen passen:

require(lme4)
summary(lmer(size ~ age + side + (1|subject), demo))
summary(lmer(size ~ age + (1|side) + (1|subject), demo))
summary(lmer(size ~ age + (1|subject/side), demo))

Alle Modelle enthalten einen festen Effekt von ageund einen zufälligen Effekt von subject, werden jedoch sideunterschiedlich behandelt .

1. sideage$t=1.8$

2. sideage$t=1.4$

3. sideage$t=37$

Dies zeigt deutlich, dass sidedies als verschachtelter Zufallseffekt behandelt werden sollte.

Schließlich schlug @Robert in den Kommentaren vor, den globalen Effekt von sideals Steuervariable aufzunehmen . Wir können es tun, während wir den verschachtelten Zufallseffekt beibehalten:

summary(lmer(size ~ age + side + (1|subject/side), demo))
summary(lmer(size ~ age + (1|side) + (1|subject/side), demo))

side$t=0.5$side

So ergänzen Sie die anderen Antworten:

Ich glaube nicht, dass Sie logischerweise verpflichtet sind, immer einen festen Effekt in der im OP beschriebenen Weise zu verwenden. Selbst wenn die üblichen Definitionen / Richtlinien für die Behandlung eines Faktors als zufällig nicht eingehalten werden, kann es sein, dass ich ihn bei einer großen Anzahl von Ebenen immer noch als zufällig modelliere, so dass die Behandlung des Faktors als feststehend viele Stufen verbrauchen würde Freiheit und führen zu einem umständlichen und weniger sparsamen Modell.

Wenn Sie über die Situation sprechen, in der Sie alle möglichen Ebenen eines interessierenden Faktors kennen und über Daten zur Abschätzung der Auswirkungen verfügen, müssen Sie auf keinen Fall Ebenen mit zufälligen Effekten darstellen.

Der Grund, warum Sie einem Faktor einen zufälligen Effekt zuweisen möchten, besteht darin, dass Sie Rückschlüsse auf die Auswirkungen aller Ebenen dieses Faktors ziehen möchten, die normalerweise nicht bekannt sind. Um eine solche Schlussfolgerung zu ziehen, unterstellen Sie die Annahme, dass die Auswirkungen aller Ebenen im Allgemeinen eine Normalverteilung bilden. Aufgrund Ihrer Problemstellung können Sie die Auswirkungen aller Ebenen abschätzen. Dann ist es sicherlich nicht erforderlich, zufällige Effekte festzulegen und zusätzliche Annahmen zu treffen.

Es ist wie in der Situation, dass Sie in der Lage sind, alle Werte der Grundgesamtheit abzurufen (Sie kennen also den wahren Mittelwert), aber Sie versuchen, der Grundgesamtheit eine große Stichprobe zu entnehmen und dann den zentralen Grenzwertsatz zu verwenden, um die Stichprobenverteilung zu approximieren Schliessen Sie auf den wahren Mittelwert.