Ist es möglich, Kernel-PCA für die Funktionsauswahl zu verwenden?

Ist es möglich, die Kernel-Hauptkomponentenanalyse (kPCA) für die latente semantische Indizierung (LSI) auf dieselbe Weise wie die PCA zu verwenden?

Ich führe LSI in R mit der prcompPCA-Funktion durch und extrahiere die Merkmale mit den höchsten Belastungen aus den ersten Komponenten. Dadurch erhalte ich die Funktionen, die die Komponente am besten beschreiben.$k$

Ich habe versucht, die kpcaFunktion (aus dem kernlibPaket) zu verwenden, kann jedoch nicht sehen, wie auf die Gewichte der Features einer Hauptkomponente zugegriffen werden kann. Ist dies bei Verwendung von Kernel-Methoden insgesamt möglich?

Ich denke, die Antwort auf Ihre Frage ist negativ: Es ist nicht möglich.

Standard-PCA kann für die Merkmalsauswahl verwendet werden, da jede Hauptkomponente eine lineare Kombination von Originalmerkmalen ist und man sehen kann, welche Originalmerkmale am meisten zu den wichtigsten Hauptkomponenten beitragen, siehe z. B. hier: Verwenden der Hauptkomponentenanalyse (PCA) für Funktionsauswahl .

In der Kernel-PCA ist jede Hauptkomponente eine lineare Kombination von Merkmalen im Zielraum , und zum Beispiel für den Gaußschen Kernel (der häufig verwendet wird) ist der Zielraum unendlich dimensional. Das Konzept der "Ladungen" ist für kPCA also nicht wirklich sinnvoll, und tatsächlich werden die Kernel-Hauptkomponenten direkt berechnet, wobei die Berechnung der Hauptachsen (die für Standard-PCA in R durch angegeben sind prcomp$rotation) insgesamt umgangen wird , dank dessen, was als bekannt ist Kernel-Trick . Siehe zB hier: Entspricht die Kernel-PCA mit linearem Kernel der Standard-PCA? für mehr Details.

Also nein, das ist nicht möglich. Zumindest gibt es keinen einfachen Weg.

Das folgende Beispiel (aus dem Kernlab-Referenzhandbuch) zeigt Ihnen, wie Sie auf die verschiedenen Komponenten der Kernel-PCA zugreifen können:

data(iris)
test <- sample(1:50,20)
kpc <- kpca(~.,data=iris[-test,-5],kernel="rbfdot",kpar=list(sigma=0.2),features=2)

pcv(kpc)        # returns the principal component vectors
eig(kpc)        # returns the eigenvalues
rotated(kpc)    # returns the data projected in the (kernel) pca space
kernelf(kpc)    # returns the kernel used when kpca was performed

Beantwortet das deine Frage?