Ich versuche derzeit, das Likelihood-Prinzip zu verstehen und verstehe es ehrlich gesagt überhaupt nicht. Also werde ich alle meine Fragen als Liste schreiben, auch wenn dies ziemlich grundlegende Fragen sein mögen.
- Was genau bedeutet "alle Informationen" im Kontext dieses Prinzips? (Wie bei allen Informationen in einer Stichprobe ist die Wahrscheinlichkeitsfunktion enthalten.)
- Ist das Prinzip irgendwie mit der sehr beweisbaren Tatsache verbunden, dass ? Ist die "Wahrscheinlichkeit" im Prinzip dasselbe wie oder nicht?p ( y | x )
- Wie kann ein mathematischer Satz "kontrovers" sein? Mein (schwaches) Verständnis von Mathematik ist, dass ein Theorem entweder bewiesen oder nicht bewiesen ist. Zu welcher Kategorie gehört das Wahrscheinlichkeitsprinzip?
- Wie wichtig ist das Likelihood-Prinzip für die Bayes'sche Inferenz, die auf der Formel basiert ?
bayesian
likelihood
likelihood-principle
Karel Bílek
quelle
quelle
Antworten:
Das Wahrscheinlichkeitsprinzip wurde auf viele verschiedene Arten angegeben, mit variabler Bedeutung und Verständlichkeit. Das Buch Likelihood von AWF Edwards ist sowohl eine hervorragende Einführung in viele Aspekte der Wahrscheinlichkeit als auch noch in gedruckter Form. So definiert Edwards das Wahrscheinlichkeitsprinzip:
"Im Rahmen eines statistischen Modells sind alle Informationen, die die Daten über die relativen Vorzüge zweier Hypothesen liefern, im Wahrscheinlichkeitsverhältnis dieser Hypothesen enthalten." (Edwards 1972, 1992, S. 30)
Also nun zu den Antworten.
"Alle Informationen in der Stichprobe" sind, wie Sie zitieren, einfach ein unzureichender Ausdruck des relevanten Teils des Wahrscheinlichkeitsprinzips. Edwards sagt es viel besser: Das Modell ist wichtig und die relevanten Informationen beziehen sich auf die relativen Vorzüge von Hypothesen. Es ist zu beachten, dass die Wahrscheinlichkeitsquote nur dann sinnvoll ist, wenn die fraglichen Hypothesen aus demselben statistischen Modell stammen und sich gegenseitig ausschließen. Tatsächlich müssen sie Punkte derselben Wahrscheinlichkeitsfunktion sein, damit das Verhältnis nützlich ist.
Das Wahrscheinlichkeitsprinzip ist, wie Sie sehen, mit dem Bayes-Theorem verwandt, aber ohne Bezugnahme auf den Bayes-Theorem nachweisbar. Ja, p (x | y) ist (proportional zu) einer Wahrscheinlichkeit, solange x Daten und y eine Hypothese ist (die möglicherweise nur ein hypothetischer Parameterwert ist).
Das Wahrscheinlichkeitsprinzip ist umstritten, weil sein Beweis angefochten wurde. Meiner Meinung nach sind die Beweise fehlerhaft, aber es ist dennoch umstritten. (Auf einer anderen Ebene kann gesagt werden, dass das Wahrscheinlichkeitsprinzip umstritten ist, weil es impliziert, dass die häufig verwendeten Inferenzmethoden in gewisser Weise fehlerhaft sind. Manche Leute mögen das nicht.) Das Wahrscheinlichkeitsprinzip wurde bewiesen, aber sein Anwendungsbereich Die Relevanz kann stärker eingeschränkt sein, als es die Kritiker vermuten.
Das Wahrscheinlichkeitsprinzip ist für Bayes'sche Methoden wichtig, da die Daten über die Wahrscheinlichkeiten in die Bayes'sche Gleichung eingehen. Die meisten Bayes'schen Methoden entsprechen dem Wahrscheinlichkeitsprinzip, jedoch nicht alle. Einige Leute, wie Edwards und Royall, behaupten, dass Schlussfolgerungen auf der Basis von Wahrscheinlichkeitsfunktionen ohne Verwendung des Bayes-Theorems, "pure Likelihood Inference", gemacht werden können. Das ist auch umstritten. Tatsächlich ist es wahrscheinlich kontroverser als das Wahrscheinlichkeitsprinzip, da Bayesianer eher mit Frequentisten übereinstimmen, dass reine Wahrscheinlichkeitsmethoden ungeeignet sind. (Feind meines Feindes ...)
quelle