Wie kann man beweisen, dass es keinen endlichen Merkmalsraum für den Gaußschen RBF-Kern gibt?

14

Wie zu beweisen ist, dass für die radiale Basisfunktion kein endlichdimensionaler Merkmalsraum wie z dass für einige wir haben ?k(x,y)=exp(||xy||2)2σ2)HΦ:RnHk(x,y)=Φ(x),Φ(y)

Löwe
quelle
Ist diese Frage für die Mathematik besser geeignet?
Leo
1
Ein möglicher Angriffsplan wäre, einen nicht geschlossenen Unterraum von zu zeigen . H
Nick Alger
@ Nick Alger: Vielleicht hilft das: stats.stackexchange.com/questions/80398/…

Antworten:

11

Das Moore-Aronszajn-Theorem garantiert, dass ein symmetrisch positiver bestimmter Kern einem einzigartigen reproduzierenden Kernel-Hilbert-Raum zugeordnet ist. (Beachten Sie, dass das RKHS zwar eindeutig ist, das Mapping selbst jedoch nicht.)

Aus diesem Grund kann Ihre Frage beantwortet werden, indem ein unendlich dimensioniertes RKHS angezeigt wird, das dem Gaußschen Kern (oder RBF) entspricht. Eine eingehende Studie hierzu finden Sie in " Eine explizite Beschreibung der Hilbert-Räume des reproduzierenden Kerns von Gaußschen RBF-Kerns ", Steinwart et al.

PierreChc
quelle
2

Es sei angenommen , daß Gaussian RBF kernel auf Domäne definiert ist , X × X , wo X enthält eine unendliche Anzahl von Vektoren. Man kann beweisen ( Gaußkerne, warum sie vollen Rang sind? ) , Dass für jede Menge von verschiedenen Vektoren x 1 , . . . , x mX Matrix ( k ( x i , x j ) ) m × m ist nicht singulär, was bedeutet, dass Vektoren (k(x,y)X×XXx1,...,xmX(k(xi,xj))m×m sind linear unabhängig. Somit kann ein Merkmalsraum H für den Kern k keine endliche Anzahl von Dimensionen haben.Φ(x1),...,Φ(xm)Hk

Löwe
quelle
Hier finden Sie eine 'intuitivere' Erklärung dafür, dass auch für ein unbegrenztes Trainingsmuster auf eine Dimension abgebildet werden kann, die der Größe des Trainingsmusters entspricht: stats.stackexchange.com/questions/80398/…Φ