Wie hängt die inverse Gammaverteilung mit

Vorausgesetzt, dass die hintere Schätzung von einer normalen Wahrscheinlichkeit und eines inversen Gammas vor σ 2 ist:$\sigma'^{2}$$\sigma^2$

$$\sigma'^{2}\sim\textrm{IG}\left(\alpha + \frac{n}{2}, \beta +\frac{\sum_{i=1}^n{(y_i-\mu)^2}}{2}\right)$$

das ist äquivalent zu

$$\sigma'^{2}\sim\textrm{IG}\left( \frac{n}{2}, \frac{n\sigma^2}{2}\right)$$

da eine schwache , bevor sie auf σ 2 entfernt & alpha und β aus Gleichung 1:$\textrm{IG}(\alpha, \beta)$$\sigma^2$$\alpha$$\beta$

$$\sigma'^{2}\sim\textrm{IG}\left( \frac{n}{2}, \frac{\sum_{i=1}^n{(y_i-\mu)^2}}{2}\right)$$

Es ist offensichtlich, dass die hintere Schätzung von eine Funktion der Stichprobengröße und der Summe der Quadrate der Wahrscheinlichkeit ist. Aber was bedeutet das? Es gibt eine Ableitung auf Wikipedia , der ich nicht ganz folge.$\sigma^2$

Ich habe folgende Fragen

1. Kann ich zu dieser zweiten Gleichung gelangen, ohne die Bayes-Regel aufzurufen? Ich bin gespannt, ob den Parametern einer IG etwas inhärent ist, das sich auf den Mittelwert und die Varianz bezieht, unabhängig von der normalen Wahrscheinlichkeit.
2. Kann ich die Stichprobengröße und die Standardabweichung von einer früheren Studie verwenden, um einen informierten Prior auf zu schätzen und den Prior dann mit neuen Daten zu aktualisieren? Dies scheint unkompliziert zu sein, aber ich kann keine Beispiele dafür oder Gründe dafür finden, warum dies ein legitimer Ansatz wäre - außer dem, was im hinteren Bereich zu sehen ist.$\sigma^2$
3. Gibt es ein beliebtes Wahrscheinlichkeits- oder Statistiklehrbuch, das ich zur weiteren Erklärung heranziehen kann?

Ich denke, es ist richtiger, von der posterioren Verteilung Ihres Parameters zu sprechen, als von seiner posterioren Schätzung. Zur Klarheit der Notationen werde ich im Folgenden die Primzahl in σ ′ 2 fallen lassen .$\sigma'^{2}$$\sigma'^{2}$

Angenommen, als verteilt N ( 0 , σ 2 ) , - I fallen μ für jetzt ein heuristisches Beispiel zu machen - und 1 / σ 2 = σ - 2 verteilt sich wie Γ ( α , β ) und ist unabhängig von X .$X$$\mathcal{N}(0, \sigma^2)$$\mu$$1/\sigma^2 = \sigma^{-2}$$\Gamma(\alpha, \beta)$$X$

Das PDF von mit σ - 2 ist Gaußsch, dh$X$$\sigma^{-2}$

$$f(x|\sigma^{-2}) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp\left(-\frac{x^2}{2\sigma^2}\right).$$

$(X, \sigma^{-2})$$f(x,\sigma^{-2})$$f(x|\sigma^{-2})$$g(\sigma^{-2})$$\sigma^{-2}$

$$f(x, \sigma^{-2}) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp\left(-\frac{x^2}{2\sigma^2}\right) \frac{\beta^{\alpha}}{\Gamma(\alpha)}\exp \left(-\frac{\beta}{ \sigma^2}\right)\frac{1}{\sigma^{2(\alpha-1)}}.$$

Wir können ähnliche Begriffe gruppieren und wie folgt umschreiben

$$f(x, \sigma^{-2}) \propto \sigma^{-2(\alpha-1/2)} \exp\left(-\sigma^{-2} \left(\beta + x^2/2 \right)\right).$$

$\sigma^{-2}$$\sigma^{-2}$$x$$f(x, \sigma^{-2}) / f(x)$$f(\sigma^{-2}|x)$$f(x, \sigma^{-2})$$\Gamma$$\sigma^{-2}$$f(x)$

$$f(x) \propto (\beta + x^2/2)^{-(\alpha+1/2)},$$

Durch Teilen erhalten wir also

$$f(\sigma^{-2}|x) \propto \left(\beta + x^2/2 \right) \left( \sigma^{-2} \left(\beta + x^2/2 \right) \right)^{\alpha-1/2} \exp\left(-\sigma^{-2} \left(\beta + x^2/2 \right)\right) \\ \propto \left( \sigma^{-2} \left(\beta + x^2/2 \right) \right)^{\alpha-1/2} \exp\left(-\sigma^{-2} \left(\beta + x^2/2 \right)\right).$$

$\Gamma$$(\alpha + 1/2, \beta + x^2/2)$

$((x_1, \sigma_1^{-2}), ..., (x_n, \sigma^{-2}_n))$$\sigma_i^{-2}$$f(x_1, ..., x_n)$$f(\sigma_1^{-2}, ..., \sigma_n^{-2}|x_1, ..., x_n)$

$$f(\sigma_1^{-2}, ..., \sigma_n^{-2}|x_1, ..., x_n) \propto \prod_{i=1}^n \left( \sigma_i^{-2} \left(\beta + x_i^2/2 \right) \right)^{\alpha-1/2} \exp\left(-\sigma_i^{-2} \left(\beta + x_i^2/2 \right)\right),$$

$\Gamma$$\sigma_i^{-2}$$\Gamma$

$x_i$$\sigma^{-2}$$\sigma^{-2}$$\Gamma(\alpha, \beta)$$x_i$$\sigma^{-2}$

$$f(x_1, ..., x_n, \sigma^{-2}) \propto \sigma^{-2 (\alpha + n/2)} \exp\left(-\sigma^{-2} \left(\beta + \frac{1}{2} \sum_{i=1}^n x_i^2\right) \right),$$

$\sigma^{-2}$

$\sigma^{-2}$$\Gamma$$\alpha$$\beta$$n$$\sigma^{-2}$$\alpha/\beta$$\alpha/\beta^2$$\alpha = \beta$$\sigma^{-2}$weil die Varianz riesig wird. Da die Werte klein sind, können Sie sie aus den obigen Gleichungen entfernen und erhalten Ihre Gleichung 3.

$\Gamma$$S^2$$\sigma^2$

In Bezug auf Ihre Frage 2 können Sie natürlich die in einem früheren Experiment erhaltenen Werte als Ihre Prioritäten verwenden. Da wir oben eine Parallele zwischen Bayes'scher und frequentistischer Interpretation hergestellt haben, können wir näher darauf eingehen und sagen, dass es so ist, als würde man eine Varianz aus einer kleinen Stichprobengröße berechnen und dann mehr Datenpunkte sammeln: Sie würden Ihre Schätzung der Varianz aktualisieren, anstatt sie wegzuwerfen die ersten Datenpunkte.

Zu Ihrer Frage 3. Ich mag die Einführung in die mathematische Statistik von Hogg, McKean und Craig, die normalerweise Einzelheiten zur Ableitung dieser Gleichungen enthält.

Für Frage 1 folgt die zweite Gleichung aus der Bayes-Regel, wie Sie hervorheben, und ich sehe keinen Weg, dies zu vermeiden.

Bei Frage 2 können Sie dies tun. Verwenden Sie einfach einen Prior derselben Form wie Ihre zweite Gleichung.

Bei Frage 3 würde ich etwas über exponentielle Familien suchen. Vielleicht wird jemand eine gute Ressource empfehlen.