Inkrementelle Gaußsche Prozessregression

11

Ich möchte eine inkrementelle Gaußsche Prozessregression mithilfe eines Schiebefensters über den Datenpunkten implementieren, das nacheinander über einen Stream ankommt.

Lassen die Dimensionalität des Eingangsraums bezeichnen. Jeder Datenpunkt hat also Anzahl von Elementen.dxid

Sei die Größe des Schiebefensters.n

Um Vorhersagen zu treffen, muss ich die Inverse der Grammmatrix berechnen , wobei und k der quadratische Exponentialkern ist.KKij=k(xi,xj)

Um zu vermeiden, dass K mit jedem neuen Datenpunkt größer wird, dachte ich, ich könnte den ältesten Datenpunkt entfernen, bevor ich neue Punkte hinzufüge, und auf diese Weise verhindere ich, dass das Gramm wächst. Zum Beispiel sei wobei die Kovarianz der Gewichte und die implizite Abbildungsfunktion ist, die durch den quadratischen Exponentialkern impliziert wird.K=ϕ(X)TΣϕ(X)Σϕ

Nun sei ] und wobei ‚s sind von Säulenmatrices.X=[xtn+1|xtn+2|...|xtXnew=[xtn+2|...|xt|xt+1]xd1

Ich brauche einen effektiven Weg , um die finden möglicherweise mit . Dies sieht nicht nach der Umkehrung eines aktualisierten Matrixproblems mit Rang 1 aus, das effizient mit der Sherman-Morrison-Formel behandelt werden kann.Knew1K

bfaskiplar
quelle

Antworten:

8

Hierfür gab es mehrere rekursive Algorithmen. Sie sollten sich den KRLS-Algorithmus (Kernel Recursive Least Squares) und verwandte Online-GP-Algorithmen ansehen.

Memming
quelle
Vielen Dank für diese hervorragenden Hinweise!
Bfaskiplar
-1

Die schrittweise Schätzung von GP-Modellen ist in der Literatur gut untersucht. Die zugrunde liegende Idee besteht darin, anstatt alle neuen Beobachtungen, die Sie vorhersagen möchten, zu konditionieren, den Punkt mit einem Schritt voraus zu konditionieren und dies wiederholt zu tun. Dies kommt der Kalman-Filterung irgendwie nahe.

Wis
quelle
Diese Antwort würde verbessert, wenn ein Buch, ein Artikel oder eine andere wissenschaftliche Veröffentlichung zitiert würde.
Sycorax sagt Reinstate Monica