Stichprobenverteilung der Regressionskoeffizienten

11

Ich habe zuvor etwas über Stichprobenverteilungen gelernt, die Ergebnisse lieferten, die für den Schätzer in Bezug auf den unbekannten Parameter waren. Zum Beispiel für die Probenahme Verteilungen von ß 0 und β 1 in dem linearen Regressionsmodell Y i = β o + β 1 X i + ε iβ^0β^1Y.ich=βÖ+β1X.ich+εich

und β1~N(β1,& sgr;2

β^0N.(β0, σ2(1n+x¯2S.xx))
β^1N.(β1, σ2S.xx)

wobei S.xx=ich=1n(xich2)- -nx¯2

Aber jetzt habe ich folgendes in einem Buch gesehen :

Angenommen, wir passen das Modell auf die übliche Weise nach kleinsten Quadraten an. Betrachten Sie die Bayes'sche posteriore Verteilung und wählen Sie die Prioritäten so, dass dies der üblichen Verteilung der häufig auftretenden Stichproben entspricht, d. H. ......

(β0β1)N2[(β^1β^2), σ^2(ni=1nxii=1nxii=1nxi2)1]

Das verwirrt mich, weil:

  1. Warum erscheinen die Schätzungen auf der linken Seite (lhs) der ersten beiden Ausdrücke und auf der rechten Seite (rhs) des letzten Ausdrucks?
  2. Warum haben die Beta-Hüte im letzten Ausdruck 1 und 2 Indizes anstelle von 0 und 1?
  3. Sind das nur verschiedene Darstellungen derselben Sache? Wenn ja, könnte mir jemand zeigen, wie gleichwertig sie sind? Wenn nicht, könnte jemand den Unterschied erklären?
Joe King
quelle

Antworten:

7

Dieser Teil bezieht sich hauptsächlich auf Ihre erste, dritte und vierte Frage:

Es gibt einen grundlegenden Unterschied zwischen Bayes'schen Statistiken und Frequentist-Statistiken.

θ (einige Parameter oder Parameter) als fest, aber unbekannt und sehen, welche die Daten wahrscheinlicher machen. Es werden die Eigenschaften der Stichprobe aus einem Modell anhand der Parameter untersucht, um Rückschlüsse darauf zu ziehen, wo sich die Parameter möglicherweise befinden. (Ein Bayesianer könnte sagen, dass der frequentistische Ansatz auf der Häufigkeit von Dingen basiert, die nicht geschehen sind.)

P.(θ|x_)

Dies führt zu Dingen, die oft ähnlich aussehen, bei denen die Variablen in einem jedoch "falsch herum" aussehen, wenn sie durch die Linse der anderen Denkweise betrachtet werden.

Grundsätzlich handelt es sich also um etwas andere Dinge, und die Tatsache, dass sich Dinge, die sich auf der linken Seite des einen befinden, auf der rechten Seite des anderen befinden, ist kein Zufall.

Wenn Sie mit beiden arbeiten, wird es bald einigermaßen klar.

Die zweite Frage scheint mir einfach einen Tippfehler zu betreffen.

--- ---.

die Aussage "äquivalent zu der üblichen Häufigkeitsverteilung, das heißt": Ich habe dies so verstanden, dass die Autoren die Häufigkeitsstichprobenverteilung angegeben haben. Habe ich das falsch gelesen?

Dort gehen zwei Dinge vor sich - sie haben etwas etwas locker ausgedrückt (die Leute machen diese besondere Art von übermäßig lockerem Ausdruck die ganze Zeit), und ich denke, Sie interpretieren es auch anders als beabsichtigt.

Was genau bedeutet dann der Ausdruck, den sie geben?

Hoffentlich hilft die folgende Diskussion dabei, den beabsichtigten Sinn zu klären.

Wenn Sie eine Referenz angeben können (vorzugsweise online, da ich keinen guten Bibliothekszugriff habe), aus der dieser Ausdruck abgeleitet ist, wäre ich Ihnen dankbar.

Es folgt gleich von hier:

http://en.wikipedia.org/wiki/Bayesian_linear_regression

βσ2

Der Grund ist, dass der Posterior dadurch proportional zur Wahrscheinlichkeit ist und die Intervalle, die von den Posterioren für die Parameter erzeugt werden, mit den häufig auftretenden Konfidenzintervallen für die Parameter übereinstimmen.

Vielleicht finden Sie auch die ersten Seiten hier hilfreich.

Glen_b - Monica neu starten
quelle
Danke, das ist hilfreich. Ich habe schon ein paar Bayes'sche Statistiken gemacht. Ich bin jedoch immer noch etwas verwirrt, weil die Aussage "äquivalent zur üblichen Verteilung der häufigen Stichproben" lautet : Ich habe dies so verstanden, dass die Autoren die Verteilung der häufigen Stichproben angegeben haben. Habe ich das falsch gelesen? Was genau bedeutet dann der Ausdruck, den sie geben? Wenn Sie eine Referenz angeben können (vorzugsweise online, da ich keinen guten Bibliothekszugriff habe), aus der dieser Ausdruck abgeleitet ist, wäre ich Ihnen dankbar.
Joe King
Joe - siehe meine Bearbeitung oben
Glen_b -State Monica