Objektive vs. subjektive Bayes'sche Paradigmen

Was ist der Unterschied zwischen objektiven und subjektiven Bayes'schen Paradigmen?
Welche Objekte oder Prozeduren definieren oder interpretieren sie unterschiedlich?
Gibt es einen Unterschied in der Wahl der Methoden?

$^\dagger$ Noch verwirrender wird die Tatsache, dass es eine Klasse von „Subjektivismus“ gibt, die auf der vorherigen Erhebung von Experten beruht, und dass diese spezielle Variation sorgfältig in die philosophische Kategorisierung von Paradigmen eingepasst werden muss. Ich werde versuchen, Klarheit in diese Frage zu bringen, indem ich verschiedene Arten darstelle, in denen „Subjektivismus“ häufig interpretiert wird, und dann breite Übereinstimmungen zwischen den Bayesianern und Bereiche darstelle, in denen philosophische und praktische Ansätze voneinander abweichen. Ich gehe davon aus, dass es andere geben wird, die meinen eigenen Ansichten hierzu nicht zustimmen, aber ich hoffe, dass dies einen guten Ausgangspunkt für eine klare Diskussion bietet.

Schwacher Subjektivismus: In dieser Interpretation wird der Begriff "subjektiv" in seinem schwächeren Sinne verwendet, was lediglich bedeutet, dass die Wahrscheinlichkeit die rationalen Überzeugungen eines Subjekts einschließt. (Einige Leute wie ich ziehen es vor, den Begriff "epistemisch" für dieses Konzept zu verwenden, da es eigentlich keine Subjektivität im engeren Sinne erfordert.)

Starker Subjektivismus: In dieser Interpretation wird der Begriff "subjektiv" in seinem stärkeren Sinne verwendet, was bedeutet, dass ein schwacher Subjektivismus vorliegt und dass der Überzeugung des Subjekts keine "objektive" Rechtfertigung von außen fehlt (dh zwei oder mehr verschiedene Subjekte könnten alle unterschiedlich sein) Überzeugungen, und keine würde als mehr oder weniger falsch angesehen als die anderen).

In der Bayes'schen Analyse ist es im Allgemeinen so, dass die gewählte Stichprobenverteilung eine objektive Rechtfertigung hat, die auf einem gewissen Verständnis des Stichprobenmechanismus beruht. Außer in den Beispieldaten sind jedoch kaum Informationen zu dem Parameter verfügbar. Daraus ergeben sich drei allgemeine Paradigmen in der Bayes'schen Statistik, die unterschiedlichen Methoden zur Bestimmung der vorherigen Verteilung entsprechen.

Subjektives Bayes'sches Paradigma: Dieses Paradigma stimmt mit einem schwachen Subjektivismus überein und ist ferner der Ansicht, dass jede Menge von probabilistischen Überzeugungen gleichermaßen gültig ist. Solange die Probanden die Bayes'sche Aktualisierung für neue Daten verwenden, ist es legitim, vorherige zu verwenden. Nach diesem Paradigma bedarf der Prior keiner objektiven Begründung. In diesem Paradigma liegt der Schwerpunkt darauf, die zuvor verwendeten Daten offenzulegen und dann zu zeigen, wie diese mit neuen Daten aktualisiert werden. Bei diesem Verfahren ist es üblich, eine Sensitivitätsanalyse einzuschließen, die die hinteren Annahmen unter einer Reihe von früheren Annahmen zeigt.

Objektives Bayes'sches Paradigma:Dieses Paradigma stimmt auch mit einem schwachen Subjektivismus überein, zieht es jedoch vor, vorherige Überzeugungen (vor der Einbeziehung von Daten) zusätzlich einzuschränken, so dass sie objektiv „nicht informativ“ über den Parameter sind. In diesem Paradigma soll der Prior den Mangel an verfügbaren Informationen bezüglich des Parameters außerhalb der Daten genau wiedergeben. Dies beinhaltet normalerweise die Annahme einer Theorie zur Festlegung der Prioritäten (z. B. Jeffreys, Jaynes, Bernardos Referenzprioritäten usw.). Dieses Paradigma besagt, dass eine Reihe von Wahrscheinlichkeitsannahmen vorzuziehen ist, wenn sie auf einer objektiven vorherigen Annahme basieren bestimmt und nicht informativ über die Parameter in dem interessierenden Problem. Es stimmt überein, dass jede Reihe von Wahrscheinlichkeitsannahmen mit den Rationalitätskriterien übereinstimmt, die der Bayes'schen Analyse zugrunde liegen. Überzeugungen, die auf „schlechten“ Prioritäten beruhen (zu informativ über den unbekannten Parameter), werden jedoch als schlechter angesehen als solche, die auf „guten“ Prioritäten beruhen. In diesem Paradigma wird der Prior aus einer nicht informativen Klasse ausgewählt und dann mit neuen Daten aktualisiert, um eine objektive Antwort auf das Problem zu erhalten.

Bayesianisches Paradigma nach Expertenprior:Diese Methode wird oft als Teil des subjektiven Paradigmas angesehen und normalerweise nicht separat identifiziert, aber ich betrachte sie als separates Paradigma, da sie Elemente jeder Sichtweise enthält. Dieses Paradigma stimmt mit einem schwachen Subjektivismus überein, aber wie das objektive Bayes'sche Paradigma sieht es nicht alle Prioritäten als gleichwertig an. Dieses Paradigma behandelt gegenwärtige „Vorgesetzte“ als Nachfolger aus früheren Lebenserfahrungen und betrachtet daher die früheren Überzeugungen von Fachexperten als den früheren Überzeugungen von Nichtfachexperten überlegen. Es wird auch anerkannt, dass diese Überzeugungen wahrscheinlich auf Daten beruhen, die nicht systematisch erfasst wurden, und nicht auf der systematischen Anwendung der Wahrscheinlichkeitstheorie, sodass es nicht möglich ist, diese vorhandenen Expertenprioren in einen ursprünglichen nicht informativen Prior und die Daten zu zerlegen dass dieser Experte beobachtet. (Und in der Tat, In Ermangelung einer systematischen Anwendung der Wahrscheinlichkeitstheorie ist der gegenwärtige Experte "vor" wahrscheinlich nicht einmal mit der Bayes'schen Aktualisierung vereinbar.) In diesem Paradigma wird die gegenwärtige "subjektive" Meinung des Experten als eine wertvolle Verkapselung des Fachwissens angesehen, die wird als primitiver Prior behandelt. In diesem Paradigma versucht der Analytiker, den Experten vorher durch einige Tests des vorherigen Glaubens herauszufordern, und dann wird der Prior als der am besten zu diesem Experten-Glauben passende formuliert (wobei darauf zu achten ist, dass der Experten-Glaube nicht durch Kenntnis der Gegenwart verunreinigt wurde Daten). Die "subjektive" Überzeugung des Experten wird daher als "objektive" Einkapselung des Fachwissens aus früheren Daten behandelt. ) In diesem Paradigma wird die gegenwärtige "subjektive" Meinung des Experten als eine wertvolle Verkapselung des Fachwissens angesehen, das als primitiver Prior behandelt wird. In diesem Paradigma versucht der Analytiker, den Experten vorher durch einige Tests des vorherigen Glaubens herauszufordern, und dann wird der Prior als der am besten zu diesem Experten-Glauben passende formuliert (wobei darauf zu achten ist, dass der Experten-Glaube nicht durch Kenntnis der Gegenwart verunreinigt wurde Daten). Die "subjektive" Überzeugung des Experten wird daher als "objektive" Einkapselung des Fachwissens aus früheren Daten behandelt. ) In diesem Paradigma wird die gegenwärtige "subjektive" Meinung des Experten als eine wertvolle Verkapselung des Fachwissens angesehen, das als primitiver Prior behandelt wird. In diesem Paradigma versucht der Analytiker, den Experten vorher durch einige Tests des vorherigen Glaubens herauszufordern, und dann wird der Prior als der am besten zu diesem Experten-Glauben passende formuliert (wobei darauf zu achten ist, dass der Experten-Glaube nicht durch Kenntnis der Gegenwart verunreinigt wurde Daten). Die "subjektive" Überzeugung des Experten wird daher als "objektive" Einkapselung des Fachwissens aus früheren Daten behandelt. und dann wird der Prior als der am besten zu dieser Expertenmeinung passende formuliert (wobei darauf zu achten ist, dass die Expertenmeinung nicht durch Kenntnis der vorliegenden Daten verschmutzt wurde). Die "subjektive" Überzeugung des Experten wird daher als "objektive" Einkapselung des Fachwissens aus früheren Daten behandelt. und dann wird der Prior als der am besten zu dieser Expertenmeinung passende formuliert (wobei darauf zu achten ist, dass die Expertenmeinung nicht durch Kenntnis der vorliegenden Daten verunreinigt wurde). Die "subjektive" Überzeugung des Experten wird daher als "objektive" Einkapselung des Fachwissens aus früheren Daten behandelt.

Unterschiede in der Methode: In methodischer Hinsicht unterscheidet sich das objektive Bayes'sche Paradigma vom subjektiven Paradigma insofern, als das erstere die zulässigen Prioritäten einschränkt (entweder auf einen eindeutigen Prior oder eine sehr kleine Klasse ähnlicher Prioritäten), während das letztere das zulässige nicht einschränkt Prioren. Im objektiven Bayes'schen Ansatz wird der Prior durch Theorien der Darstellung eines „nicht informativen“ Prior eingeschränkt. Das Experten-Prior-Paradigma verfolgt einen anderen Ansatz und identifiziert stattdessen eine oder mehrere Personen , die Experten sind, und ermittelt ihre vorherigen Überzeugungen.

Sobald wir diesen unterschiedlichen Sinn der verschiedenen Paradigmen in der Bayes'schen Statistik verstanden haben, können wir einige Bereiche mit weitgehender Übereinstimmung und Bereiche, in denen es Unstimmigkeiten gibt, aufzeigen. Tatsächlich besteht trotz unterschiedlicher Methoden eine größere Übereinstimmung über die zugrunde liegenden Theorien, als normalerweise angenommen wird.

Breite Übereinstimmung in Bezug auf schwachen Subjektivismus: In der Bayes'schen Statistik gibt es eine große Literatur, die zeigt, dass die „Axiome“ der Wahrscheinlichkeit aus vorläufigen Desideraten in Bezug auf rationale Entscheidungen abgeleitet werden können. Dies schließt Argumente ein, die sich auf die Konsistenz dynamischer Überzeugungen beziehen (siehe z. B. Epstein und Le Breton 1993 ), Argumente, die das niederländische Buchtheorem ansprechen (siehe z. B. Lehmann 1955 , Hajek 2009)). Bayesianer aller dieser Paradigmen stimmen im Großen und Ganzen darin überein, dass die Wahrscheinlichkeit erkenntnistheoretisch so interpretiert werden sollte, dass sie sich auf die Überzeugungen eines Subjekts bezieht, die durch die den Wahrscheinlichkeitsaxiomen inhärenten Rationalitätsbeschränkungen eingeschränkt sind. Wir sind uns einig, dass man die Wahrscheinlichkeitsregeln anwenden sollte, um den Glauben an Unsicherheit als rational einzuschränken. Dies impliziert, dass der Glaube an die Unsicherheit angesichts neuer Daten eine Bayes'sche Aktualisierung erfordert, aber keine weiteren Einschränkungen auferlegt (dh ohne weitere Einschränkungen heißt das nicht, dass ein Prior besser ist als ein anderer Prior). Alle drei oben genannten Paradigmen stimmen darin überein.

$^{\dagger \dagger}$ Dies bedeutet, dass bei einer großen Datenmenge der Prior keine große Rolle spielt. Dies sind unbestreitbare Wahrscheinlichkeitssätze, und alle drei oben genannten Paradigmen stimmen darin überein. Aus diesem Grund wird allgemein anerkannt, dass jedes der drei Paradigmen bei großen Datenmengen wahrscheinlich ähnliche Ergebnisse liefert. Folglich sind die Unterschiede in den Paradigmen am wichtigsten, wenn wir nur eine kleine Datenmenge haben.

Es besteht weitgehend Einigkeit darüber, dass es ungefähr „objektive“ Regeln für Priors gibt, die verfügbar sind wenn Sie sie verwenden möchten :In der Bayes'schen Statistik gibt es eine Fülle von Literatur, die zeigt, wie Sie "nicht informative" Prioritäten entwickeln können, die grob durch das Stichprobenproblem bestimmt werden und grob das Fehlen von viel Wissen über den fraglichen Parameter zusammenfassen. Ich sage "grob", weil es hier verschiedene konkurrierende Theorien gibt, die manchmal übereinstimmen, aber manchmal geringfügig voneinander abweichen (z. B. Jeffreys, Jaynes, Referenzpriors, Walley-Klassen von ungenauen Priors usw.), und es gibt auch einige heikle Paradoxien, die auftreten können. Das schwierigste Problem hierbei ist, dass es schwierig ist, für einen stetigen Parameter, der nichtlinearen Transformationen unterzogen werden kann, eine „uninformative“ Priorisierung vorzunehmen (da „uninformativity“ idealerweise für Transformationen unveränderlich sein sollte). Auch dies sind Wahrscheinlichkeitssätze, und alle Paradigmen stimmen mit ihrem Inhalt überein. Objektive Bayesianer neigen dazu, diese Theorie als ausreichend gut anzusehen, um höhere Prioritäten zu erzielen, wohingegen subjektive Bayesianer und Bayesianer von Experten-Prioritäten die Theorie eher als unzureichend ansehen, um die Überlegenheit dieser Prioritäten festzustellen. Mit anderen Worten, es besteht weitgehende Übereinstimmung darüber, dass diese objektiven Regeln existieren und angewendet werden können, aber es besteht Uneinigkeit darüber, wie gut sie sind.

Uneinigkeit herrscht über die Wichtigkeit einer einzigen Antwort: Ziel Bayesianer sind durch die Präferenz motiviert, dass ein statistisches Problem mit festen Daten und einer festen Wahrscheinlichkeitsfunktion zu einer eindeutig festgelegten posterioren Überzeugung führen sollte (oder zumindest zu einer kleinen Anzahl zulässiger posteriorer Überzeugungen das variiert sehr wenig). Diese Präferenz ist im Allgemeinen Teil einer allgemeineren Präferenz für wissenschaftliche Verfahren, die eine eindeutige Antwort liefern, wenn sie auf feste Mengen objektiver Bedingungen angewendet werden. Im Gegensatz dazu glauben sowohl die subjektiven Bayesianer als auch die Bayesianer von Expertenprioren, dass dies nicht besonders wichtig ist, und sie glauben im Allgemeinen, dass diese Konzentration auf einen eindeutig bestimmten Seitenzahn tatsächlich irreführend ist.

Es besteht weitgehend Einigkeit darüber, dass die Öffentlichkeit die Bayes'schen Posterioren nicht gut kennt: Alle Paradigmen stimmen darin überein, dass die breite Öffentlichkeit die grundlegenden Mechanismen der Übergänge der Bayes'schen Analyse von einem Vorgänger zu einem Nachfolger nicht gut kennt. Objektive Bayesianer befürchten manchmal, dass das Geben von mehr als einer zulässigen Antwort für den Posterior die Menschen verwirrt. Subjektive Bayesianer befürchten, dass das Versäumnis, mehr als eine zulässige Antwort für den posterior zu geben, für die Menschen irreführend ist.

$^\dagger$

$^{\dagger \dagger}$