Zweifel an der Ableitung von Gaußschen Prozessregressionsgleichungen in einer Arbeit

Ich lese diesen Papiervorabdruck und habe Schwierigkeiten, die Gleichungen für die Gaußsche Prozessregression abzuleiten. Sie verwenden die Einstellung und Notation von Rasmussen & Williams . Somit wird additives, mittleres, stationäres und normalverteiltes Rauschen mit Varianz angenommen:$\sigma^2_{noise}$

$$y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise})$$

Für wird ein GP vor dem Mittelwert Null angenommen , was bedeutet, dass , ist ein Gaußscher Vektor mit Mittelwert 0 und Kovarianzmatrix∀ d ∈ N f = { f ( x 1 ) , … , f ( x d ) $f(\mathbf{x})$$\forall \ d\in N$$\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\}$

$$\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) }$$

Von nun an gehen wir davon aus, dass Hyperparameter bekannt sind. Dann ist Gleichung (4) des Papiers offensichtlich:

$$p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right)$$

Hier kommen die Zweifel:

1. Gleichung (5):

   $$p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right)$$

   E [ y | f ] = f ≠ 0 $E[\mathbf{f}]=0$ , aber ich denke denn wenn ich auf konditioniere , dann wobei ein konstanter Vektor ist und nur zufällig ist. Richtig?$E[\mathbf{y}|\mathbf{f}]=\mathbf{f}\neq0$$\mathbf{f}$$\mathbf{y}=\mathbf{c}+\boldsymbol{\epsilon}$$\mathbf{c}$$\boldsymbol{\epsilon}$

2. Wie auch immer, es ist Gleichung (6), die für mich dunkler ist:

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f})}{p(\mathbf{y})}$$

   Das ist nicht die übliche Form des Bayes-Theorems. Der Satz von Bayes wäre

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f},\mathbf{f^*})}{p(\mathbf{y})}$$

   Ich verstehe irgendwie, warum die beiden Gleichungen gleich sind: Intuitiv hängt der Antwortvektor nur vom entsprechenden latenten Vektor , also abhängig von oder von sollte zur gleichen Verteilung führen. Dies ist jedoch eine Intuition, kein Beweis! Kannst du mir helfen zu zeigen warum?$\mathbf{y}$$\mathbf{f}$$\mathbf{f}$$(\mathbf{f},\mathbf{f^*})$

   $$p(\mathbf{y}|\mathbf{f},\mathbf{f^*})=p(\mathbf{y}|\mathbf{f})$$

1. Wenn wir reparieren , kommt jede Unsicherheit in vom Rauschen. Für Gleichung (5) im Artikel haben wir also das gegebene wir haben an jedem Punkt unabhängiges Rauschen mit Varianz und Mittelwert Null . Wir addieren den Anfangsmittelwert und erhalten die Antwort.$\mathbf{f}$$\mathbf{y}$$\mathbf{f}$$\sigma_{noise}^2$$0$
2. Eine Möglichkeit, die vorgeschlagene Gleichheit zu beweisen, besteht darin, die Verteilung unter zu finden die linke Seite und auf der rechten Seite der Qualität. Beide sind Gaußsch, für die linke Seite kennen wir die Antwort bereits. Für die rechte Seite gehen wir ähnlich vor. Lassen Sie uns die bedingte Verteilung für . Aus dem Ergebnis des ersten Teils wissen wir: Mit Hilfe von Wahrscheinlichkeitsregeln ist es einfach, aus $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = p(\mathbf{y} | \mathbf{f})$$ $(\mathbf{y}, \mathbf{y}^*)$ $$p(\mathbf{y}, \mathbf{y}^* | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}((\mathbf{f}, \mathbf{f}^*), \sigma^2_{noise} I).$$ $\mathbf{y}^*$$(\mathbf{y}, \mathbf{y}^*)$, da die Kovarianzmatrix diagonal ist und die Vektoren und unabhängig sind. Auf diese Weise erhalten wir: $\mathbf{y}$$\mathbf{y}^*$ $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}(\mathbf{f}, \sigma^2_{noise} I) = p(\mathbf{y} | \mathbf{f}).$$