Gemischte Modellidee und Bayes'sche Methode

10

Im gemischten Modell nehmen wir an, dass die zufälligen Effekte (Parameter) Zufallsvariablen sind, die Normalverteilungen folgen. Es sieht der Bayes'schen Methode sehr ähnlich, bei der alle Parameter als zufällig angenommen werden.

Ist das Zufallseffektmodell also ein Sonderfall der Bayes'schen Methode?

fragen
quelle

Antworten:

7

Das ist eine gute Frage. Genau genommen macht die Verwendung eines gemischten Modells Sie nicht zum Bayesianer. Stellen Sie sich vor, Sie schätzen jeden zufälligen Effekt separat (behandeln ihn als festen Effekt) und betrachten dann die resultierende Verteilung. Dies ist "schmutzig", aber konzeptionell haben Sie eine Wahrscheinlichkeitsverteilung über die zufälligen Effekte basierend auf einem relativen Frequenzkonzept .

Wenn Sie als Frequentist Ihr Modell jedoch mit voller maximaler Wahrscheinlichkeit anpassen und dann die zufälligen Effekte "abschätzen" möchten, treten einige Komplikationen auf. Diese Größen sind nicht wie Ihre typischen Regressionsparameter festgelegt, daher wäre ein besseres Wort als "Schätzung" wahrscheinlich "Vorhersage". Wenn Sie einen zufälligen Effekt für ein bestimmtes Motiv vorhersagen möchten, möchten Sie die Daten dieses Motivs verwenden. Sie müssen auf die Bayes-Regel zurückgreifen oder zumindest auf die Vorstellung, dassHier funktioniert die Zufallseffektverteilung Wesentlichen wie ein Prior. Und ich denke zu diesem Zeitpunkt würden viele Leute dies "empirische Bayes" nennen.

f(βi|yi)f(yi|βi)g(βi).
g()

Um ein echter Bayesianer zu sein, müssten Sie nicht nur eine Verteilung für Ihre zufälligen Effekte angeben, sondern auch Verteilungen (Prioritäten) für jeden Parameter, der diese Verteilung definiert, sowie Verteilungen für alle Parameter mit festen Effekten und das Modell-Epsilon. Es ist ziemlich intensiv!

Ben Ogorek
quelle
Wirklich klare, unkomplizierte Antwort.
DL Dahly
@baogorek - eine ziemlich robuste Standardeinstellung ist Cauchy priors für feste Effekte und halb cauchy für Varianzparameter - nicht so "intensiv" - es sieht nur nach bestrafter Wahrscheinlichkeit aus
Wahrscheinlichkeitslogik
4

Zufällige Effekte sind eine Möglichkeit, eine Verteilungsannahme mithilfe von bedingten Verteilungen anzugeben. Das zufällige Einweg-ANOVA-Modell lautet beispielsweise: Und diese Verteilungsannahme entspricht wobei eine austauschbare Struktur hat (mit diagonalem Eintrag und Kovarianz( y i 1y i J )iid N ( ( μ μ ) , Σ ) ,

(yijμi)iidN(μi,σw2),j=1,,J,μiiidN(μ,σb2),i=1,,I.
Σ σ 2 b + σ 2 w σ 2 b μ Σ
(yi1yiJ)iidN((μμ),Σ),i=1,,I
Σσb2+σw2σb2). Um das Modell zu Bayesianisieren, müssen Sie vorherige Verteilungen für und zuweisen .μΣ
Stéphane Laurent
quelle
3

Wenn Sie davon sprechen, dieselben Antworten zu reproduzieren, lautet die Antwort Ja. Die INLA-Berechnungsmethode (google "inla bayesian") für bayesianische GLMMs in Kombination mit einem einheitlichen Prior für die festen Effekte und Varianzparameter reproduziert im Wesentlichen die EBLUP / EBLUE-Ausgaben unter der Gaußschen Näherung "Simple Plug-In", wobei die Varianzparameter geschätzt werden über REML.

Wahrscheinlichkeitslogik
quelle
1

Ich denke nicht, ich betrachte es als Teil der Wahrscheinlichkeitsfunktion. Es ähnelt der Angabe, dass der Fehlerterm einer Normalverteilung in einem Regressionsmodell folgt, oder ein bestimmter binärer Prozess kann mithilfe einer logistischen Beziehung in einem GLM modelliert werden.

Da keine vorherigen Informationen oder Verteilungen verwendet werden, halte ich es nicht für Bayesianisch.

Tal
quelle
3
Keine vorherigen Informationen verwendet hey? Wie haben Sie dann die Funktionsform für die Wahrscheinlichkeitsfunktion angegeben? :-D
Wahrscheinlichkeitslogik
Einige Leute argumentieren, dass die Unterscheidung zwischen Wahrscheinlichkeit und Prior etwas künstlich ist.
Christoph Hanck