Wann kann die häufig auftretende Stichprobenverteilung in Regressionseinstellungen nicht als Bayesian posterior interpretiert werden?

Meine eigentlichen Fragen sind in den letzten beiden Absätzen, aber um sie zu motivieren:

Wenn ich versuche, den Mittelwert einer Zufallsvariablen zu schätzen, die einer Normalverteilung mit einer bekannten Varianz folgt, habe ich gelesen, dass das Setzen einer Uniform vor dem Mittelwert zu einer posterioren Verteilung führt, die proportional zur Wahrscheinlichkeitsfunktion ist. In diesen Situationen überlappt sich das glaubwürdige Bayes'sche Intervall perfekt mit dem Konfidenzintervall des Frequentisten, und das Bayes'sche Maximum a posteriori-Schätzwert entspricht der Schätzung des Frequentisten-Maximum-Likelihood.

In einer einfachen linearen Regressionseinstellung

$Y = \textbf{X}\beta+\epsilon, \hspace{1cm} \epsilon\sim N(0,\sigma^2)$

Das Setzen eines einheitlichen Prior auf und eines inversen Gammas auf mit kleinen Parameterwerten führt zu einem posterioren , der dem Frequentist sehr ähnlich ist. und ein glaubwürdiges Intervall für die hintere Verteilung von , das dem Konfidenzintervall um die maximale Wahrscheinlichkeitsschätzung sehr ähnlich ist. Sie werden nicht exakt gleich sein, da der Prior auf einen geringen Einfluss ausübt und wenn die posteriore Schätzung über eine MCMC-Simulation durchgeführt wird, die eine weitere Quelle für Diskrepanzen einführt, aber das Bayes'sche glaubwürdige Intervall um den$\beta$$\sigma^2$$\hat\beta^{MAP}$$\hat\beta^{MLE}$$\beta|X$$\sigma^2$$\hat\beta^{MAP}$und das häufig auftretende Konfidenzintervall um wird ziemlich nahe beieinander liegen, und natürlich sollten sie mit zunehmender Stichprobengröße konvergieren, wenn der Einfluss der Wahrscheinlichkeit zunimmt, den des Vorgängers zu dominieren.$\hat\beta^{MLE}$

Aber ich habe gelesen, dass es auch Regressionssituationen gibt, in denen diese nahezu Äquivalenzen nicht zutreffen. Zum Beispiel hierarchische Regressionen mit zufälligen Effekten oder logistische Regression - dies sind Situationen, in denen es meines Wissens keine "guten" Ziel- oder Referenzprioren gibt.

Meine allgemeine Frage lautet also: Angenommen, ich möchte auf$P(\beta|X)$und dass ich keine vorherigen Informationen habe, die ich einbeziehen möchte, warum kann ich in diesen Situationen nicht mit einer häufigen Maximum-Likelihood-Schätzung fortfahren und die resultierenden Koeffizientenschätzungen und Standardfehler als Bayes'sche MAP-Schätzungen und Standardabweichungen interpretieren und diese implizit behandeln "hintere" Schätzungen, die sich aus einem Prior ergeben, der "nicht informativ" gewesen sein muss, ohne zu versuchen, die explizite Formulierung des Prior zu finden, die zu einem solchen hinteren führen würde? Wann ist es im Bereich der Regressionsanalyse im Allgemeinen in Ordnung, in diese Richtung vorzugehen (die Wahrscheinlichkeit wie einen Seitenzahn zu behandeln) und wann ist es nicht in Ordnung? Was ist mit frequentistischen Methoden, die nicht auf der Wahrscheinlichkeit basieren, wie Quasi-Wahrscheinlichkeitsmethoden?

Hängen die Antworten davon ab, ob mein Inferenzziel Koeffizientenpunktschätzungen sind oder ob die Wahrscheinlichkeit, dass ein Koeffizient innerhalb eines bestimmten Bereichs liegt, oder von Mengen der Vorhersageverteilung?

Dies ist im Grunde eine Frage zu Werten und maximaler Wahrscheinlichkeit. Lassen Sie mich hier Cohen (1994) zitieren$p$

Was wir wissen wollen, ist "Angesichts dieser Daten, wie ist die Wahrscheinlichkeit, dass wahr ist?" Aber wie die meisten von uns wissen, sagt uns der [ Wert]: "Wenn wahr ist, wie ist die Wahrscheinlichkeit für diese (oder extremere) Daten?" Dies sind nicht die gleichen (...) p H $H_0$$p$$H_0$

Der Wert sagt uns also, was das , während wir an interessiert sind (siehe auch die Diskussion über das Fisherian vs Neyman-Pearson- Framework).P ( D | H 0 ) P ( H 0 | D $p$$P(D|H_0)$$P(H_0|D)$

Vergessen wir für einen Moment die Werte. Die Wahrscheinlichkeit , unsere Daten zu beobachten einige Parameter angegeben ist die Wahrscheinlichkeitsfunktion$p$$\theta$

Das ist eine Sichtweise auf statistische Inferenz. Ein anderer Weg ist der Bayes'sche Ansatz, bei dem wir direkt (und nicht indirekt) etwas über lernen wollen, indem wir den Bayes-Satz verwenden und Prioritäten für$P(\theta|D)$$\theta$

Wenn Sie sich nun das Gesamtbild ansehen, werden Sie feststellen, dass Werte und Wahrscheinlichkeit andere Fragen beantworten als die Bayes'sche Schätzung.$p$

Während die Schätzungen der maximalen Wahrscheinlichkeit mit den Schätzungen von MAP Bayes unter einheitlichen Prioritäten übereinstimmen sollten, müssen Sie sich daran erinnern, dass sie eine andere Frage beantworten.

Cohen, J. (1994). Die Erde ist rund (p <0,05). American Psychologist, 49, 997 & ndash ; 1003.