Warum verwenden Menschen PCA, wenn es so viele Probleme gibt?

(Dies ist eine weiche Frage.) Vor kurzem lerne ich die Hauptkomponentenanalyse und es scheint viele Probleme zu geben:

1. Sie müssen die Daten auf ungefähr den gleichen Maßstab umwandeln, bevor Sie PCA anwenden. Die Art und Weise, wie die Feature-Skalierung durchgeführt werden soll, ist jedoch nicht festgelegt. Standardisierung? Skalierung auf Längeneinheit? Log-Transformation? Box-Cox-Transformation? Ich glaube, dass sie alle irgendwie funktionieren, aber sie beantworten unterschiedliche Fragen, und es ist nicht trivial, die Transformation bei einem Problem herauszufinden.
2. Um eine PCA durchzuführen, müssen Eigenwerte und Eigenvektoren berechnet werden, aber die Vorzeichen der Eigenvektoren sind unbestimmt. Auf den ersten Blick könnte SVD eine gute Lösung sein, da es über verschiedene Implementierungen hinweg das gleiche Ergebnis liefert. Nach meinem Verständnis ist das Ergebnis der SVD jedoch nur eine willkürliche, aber reproduzierbare Wahl der Eigenvektoren.
3. Hauptkomponenten sind lineare Kombinationen von Variablen, aber sind sie sinnvoll? Ich meine, man kann die Körpertemperatur eines Affen nicht auf das Zehnfache seiner Schwanzlänge addieren, weil sie aus verschiedenen Einheiten bestehen. (Apropos Einheit, welches Einheitensystem Sie verwenden sollten, ist ein weiterer Aspekt meines ersten Punktes)
4. Sollten Sie beim Versuch, die Hauptkomponenten zu interpretieren, die Belastung (Koeffizient) der ten Hauptkomponente auf das te Element oder deren Korrelation ? Rencher (1992) empfiehlt, nur die Koeffizienten zu betrachten, aber meines Wissens besteht in dieser Frage kein Konsens.$i$$y_i$$j$$X_j$$\text{corr}(y_i, X_j)$

Zusammenfassend ist PCA eine statistische (oder wohl mathematische) Methode, die für mich ziemlich unreif erscheint, da sie während des gesamten Prozesses zahlreiche Subjektivitäten und Verzerrungen mit sich bringt. Dennoch bleibt es eine der am weitesten verbreiteten multivariaten Analysemethoden. Warum ist es? Wie überwinden die Menschen die Probleme, die ich aufgeworfen habe? Sind sie sich ihrer überhaupt bewusst?

Verweise:

Rencher, AC „Interpretation kanonischer Diskriminanzfunktionen, kanonischer Variablen und Hauptkomponenten.“ The American Statistician, 46 (1992), 217–225.

"Zeichen-Willkür" ist lediglich ein Artefakt der Darstellung der PCA-Ergebnisse. Es gibt keine Beliebigkeit für die PCA selbst: Die Eigenräume, mit denen sie arbeitet, sind perfekt definiert. Die Punkte (1) und (3) sind Vorteile von PCA, da sie es ermöglichen, das Fachwissen und die Ziele der Analyse angemessen zu nutzen. Wenn man dies als "unreif" bezeichnet, verfehlt man eher den gesamten Punkt der statistischen Analyse, IMHO, der darin besteht, echte Probleme auf kreative und prinzipielle Weise zu lösen (im Gegensatz zum Ablegen von Daten in Black Boxes).

- whuber

Was ich hier noch nicht erwähnt sehe, ist, dass viele PCA genauso verwenden, wie Sie ein Histogramm, ein Dichtediagramm oder ein Streudiagramm verwenden würden: Ein Mittel, um Daten schnell zu überprüfen, anstatt eine endgültige Lösung für ein Problem. PCA ist für diesen Zweck nützlich, da die Anzahl der Dimensionen zunimmt, ist aber natürlich informativer, wenn bei der Auswahl, ob und wie skaliert werden soll, sorgfältig vorgegangen wird.

- Frans Rodenburg