Wann sind Bayes'sche Methoden Frequentisten vorzuziehen?

Ich möchte wirklich etwas über Bayesianische Techniken lernen, also habe ich versucht, mich selbst ein bisschen beizubringen. Es fällt mir jedoch schwer zu sehen, ob Bayesianische Techniken jemals einen Vorteil gegenüber Frequentist-Methoden bringen. Zum Beispiel: Ich habe in der Literatur gesehen, wie einige informative Prioritäten verwenden, während andere nicht informative Prioritäten verwenden. Aber wenn Sie einen nicht informativen Prior verwenden (was scheint wirklich üblich zu sein?) Und feststellen, dass es sich bei der hinteren Verteilung beispielsweise um eine Beta-Verteilung handelt ... hätten Sie am Anfang nicht einfach eine Beta-Verteilung anpassen und anrufen können es gut? Ich verstehe nicht, wie die Erstellung einer vorherigen Distribution, die Ihnen nichts sagt, Ihnen wirklich etwas sagen kann.

Es stellt sich heraus, dass einige Methoden, die ich in R verwendet habe, eine Mischung aus Bayes'schen und Frequent'schen Methoden verwenden (die Autoren erkennen, dass dies etwas inkonsistent ist), und ich kann nicht einmal erkennen, welche Teile Bayes'sch sind. Abgesehen von der Verteilungsanpassung kann ich nicht einmal herausfinden, wie Sie Bayes'sche Methoden anwenden würden. Gibt es eine "Bayes'sche Regression"? Wie würde das aussehen? Alles, was ich mir vorstellen kann, ist, die zugrunde liegende Verteilung immer wieder zu erraten, während der Frequentist über die Daten nachdenkt, sie im Auge behält, eine Poisson-Verteilung sieht und eine GLM ausführt. (Dies ist keine Kritik ... ich verstehe es einfach nicht!)

Vielleicht helfen einige elementare Beispiele? Und wenn Sie einige praktische Hinweise für echte Anfänger wie mich kennen, wäre das auch sehr hilfreich!

Hier sind einige Links, die Sie interessieren könnten, wenn Sie frequentistische und bayesianische Methoden vergleichen:

• http://www.stat.ufl.edu/archived/casella/Talks/BayesRefresher.pdf
• http://www.bayesian-inference.com/advantagesbayesian
• http://www.researchgate.net/post/Bayesian_vs_frequentist_statistics2

Kurz gesagt, so wie ich es verstanden habe, glaubt der Frequentist angesichts eines bestimmten Datensatzes, dass es eine wahre, zugrunde liegende Verteilung gibt, aus der diese Daten generiert wurden. Die Unfähigkeit, die genauen Parameter zu erhalten, ist eine Funktion der endlichen Probengröße. Die Bayesianer denken hingegen, dass wir mit einer gewissen Annahme über die Parameter beginnen (auch wenn dies nicht bekannt ist) und die Daten verwenden, um unsere Meinung über diese Parameter zu verfeinern. Beide versuchen, ein Modell zu entwickeln, das die Beobachtungen erklären und Vorhersagen treffen kann. Der Unterschied liegt in den Annahmen (sowohl tatsächlich als auch philosophisch). Als markante, nicht strenge Aussage kann man sagen, dass der Frequentist der Ansicht ist, dass die Parameter festgelegt und die Daten zufällig sind; Der Bayesianer glaubt, die Daten seien fest und die Parameter seien zufällig. Was ist besser oder besser? Um das zu beantworten, muss man sich nur einarbeiten und begreifenWelche Annahmen gehen jeweils einher (z. B. sind Parameter asymptotisch normal?).

Einer der vielen interessanten Aspekte der Kontraste zwischen den beiden Ansätzen ist, dass es sehr schwierig ist, für viele Größen, die wir im Bereich der Frequentisten erhalten, eine formale Interpretation zu erhalten. Ein Beispiel ist die zunehmende Bedeutung von Bestrafungsmethoden (Schrumpfung). Wenn man bestrafte Höchstwahrscheinlichkeitsschätzungen erhält, sind die voreingenommenen Punktschätzungen und "Konfidenzintervalle" sehr schwer zu interpretieren. Andererseits hat die Bayes'sche posteriore Verteilung für Parameter, die unter Verwendung einer um Null konzentrierten vorherigen Verteilung gegen Null abgestraft werden, vollständig Standardinterpretationen.

Ich klaue diesen Großhandel von der Stan-Nutzergruppe. Michael Betancourt lieferte diese wirklich gute Diskussion über die Identifizierbarkeit in der Bayes'schen Folgerung, die meines Erachtens Ihren Wunsch nach einem Kontrast zwischen den beiden statistischen Schulen widerspiegelt.

Der erste Unterschied zu einer Bayes'schen Analyse ist das Vorhandensein von Prioren, die, selbst wenn sie schwach sind, die posteriore Masse für diese 4 Parameter in eine endliche Nachbarschaft einschränken (sonst hätten Sie überhaupt keine gültige Prioren gehabt). Trotzdem können Sie immer noch eine Nichtidentifizierbarkeit in dem Sinne haben, dass der Posterior nicht zu einer Punktmasse im Grenzbereich unendlicher Daten konvergiert. In einem sehr realen Sinne spielt dies jedoch keine Rolle, da (a) das unendliche Datenlimit sowieso nicht real ist und (b) Bayes'sche Inferenz keine Punktschätzungen, sondern Verteilungen angibt. In der Praxis führt eine solche Nichtidentifizierbarkeit zu großen Korrelationen zwischen den Parametern (möglicherweise sogar zu einer Nichtkonvexität), aber eine ordnungsgemäße Bayes'sche Analyse wird diese Korrelationen identifizieren. Selbst wenn Sie einzelne Parameter-Ränder melden,

$\mu_1$$\mu_2$$\mathcal{N}(x | \mu_1 + \mu_2, \sigma)$$\mu_1 + \mu_2 = 0$$\mu_1$$\mu_2$

$\mu_1$$\mu_2$$\mu_1$$\mu_2$

Der Hauptunterschied zwischen Bayes'schen und frequentistischen Ansätzen liegt in der Definition einer Wahrscheinlichkeit. Wenn es also notwendig ist, Wahrscheinlichkeiten streng als langfristige Häufigkeit zu behandeln, sind frequentistische Ansätze angemessen, wenn dies nicht der Fall ist, sollten Sie einen Bayes'schen Ansatz verwenden. Wenn eine der beiden Interpretationen akzeptabel ist, sind bayesianische und frequentistische Ansätze wahrscheinlich vernünftig.

Eine andere Art, es auszudrücken, ist, wenn Sie wissen möchten, welche Schlussfolgerungen Sie aus einem bestimmten Experiment ziehen können, möchten Sie wahrscheinlich Bayesianer sein; Wenn Sie Rückschlüsse auf eine bestimmte Population von Experimenten ziehen möchten (z. B. Qualitätskontrolle), sind frequentistische Methoden gut geeignet.

Im Wesentlichen ist es wichtig zu wissen, welche Frage beantwortet werden soll, und die Analyseform zu wählen, die die Frage am unmittelbarsten beantwortet.