Warum ist die posteriore Verteilung in der Bayes'schen Folgerung oft unlösbar?

Ich habe ein Problem zu verstehen, warum Bayesian Inference zu unlösbaren Problemen führt. Das Problem wird oft so erklärt:

Was ich nicht verstehe, ist, warum dieses Integral zuerst ausgewertet werden muss: Es scheint mir, dass das Ergebnis des Integrals einfach eine Normalisierungskonstante ist (wie der Datensatz D gegeben ist). Warum kann man nicht einfach die hintere Verteilung als Zähler der rechten Seite berechnen und dann auf diese Normierungskonstante schließen, indem man verlangt, dass das Integral über die hintere Verteilung 1 sein muss?

Was vermisse ich?

Vielen Dank!

bayesian inference Arni
quelle

Für wen es wichtig sein könnte: Diese Frage ist eindeutig ein Thema, da es sich um Statistiken handelt.

Sycorax sagt Reinstate Monica

Der Auszug ist schlecht geschrieben. Beachten Sie, dass

ist nicht die posteriori Verteilung; es ist die unbedingte Wahrscheinlichkeit der Daten (dh unabhängig von Theta). Da

für alle Modelle, die für denselben Datensatz in Betracht gezogen werden, gleich ist, muss es nicht unbedingt berechnet werden. Wenn Sie dies nicht tun, müssen Sie lediglich das Gleichheitszeichen in "proportional zu" (

) ändern .

P (D)

$P(\mathcal D)$

P (D)

$P(\mathcal D)$

\propto

$\propto$

gung - Wiedereinsetzung von Monica

Können Sie die Referenz dieser Folie angeben, da sie vermutlich von jemand anderem geschrieben wurde?

Xi'an

p (D)

$p(\mathcal{D})$

Wir halten derzeit einen Workshop zum Normalisieren von Konstanten ab, in dem Sie interessante Einträge zur Beantwortung dieser Frage finden.

Xi'an

Antworten:

Warum kann man nicht einfach die hintere Verteilung als Zähler der rechten Seite berechnen und dann auf diese Normierungskonstante schließen, indem man verlangt, dass das Integral über die hintere Verteilung 1 sein muss?

P (θ | D) = \frac{p (D | θ) P (θ)}{P (D)} .

$P(\theta|D) = \dfrac{p(D|\theta) \, P(\theta)}{P(D)}.$

$P(D|\theta)P(\theta)$ $\theta$ $c$

\begin{aligned} \int_{θ} c P (D | θ) P (θ) d θ = 1 \\ \Rightarrow & \int_{θ} c P (D, θ) d θ = 1 \\ \Rightarrow & c P (D) = 1 \\ \Rightarrow & c = \frac{1}{P (D)} . \end{aligned}

$\begin{align*} &\int_{\theta} cP(D|\theta) \, P(\theta)\, d\theta = 1\\ \Rightarrow & \int_{\theta} cP(D, \theta) \, d\theta = 1\\ \Rightarrow & cP(D) = 1\\ \Rightarrow& c = \dfrac{1}{P(D)}. \end{align*}$

$P(D)$

Greenparker
quelle

θ

$\theta$

Ich hatte die gleiche frage Dieser großartige Beitrag erklärt es wirklich gut.

In einer Nussschale. Es ist unlösbar, weil der Nenner die Wahrscheinlichkeit für ALLE möglichen Werte von 𝜃 auswerten muss ; In den interessantesten Fällen ist ALL eine große Menge. Während der Zähler für eine einzelne Realisierung von 𝜃 ist.

Siehe Gl. 4-8 in der Post. Screenshot des Links:

Arraval
quelle