Biplot wird häufig verwendet, um Ergebnisse der Hauptkomponentenanalyse (und verwandter Techniken) anzuzeigen . Es ist eine Dual oder Overlay Streukomponente zeigt Belastungen und Komponenten Partituren gleichzeitig. Ich wurde heute von @amoeba darüber informiert, dass er abweichend von meinem Kommentar eine Antwort auf eine Frage gegeben hat, in der gefragt wird, wie Biplot-Koordinaten erzeugt / skaliert werden. und seine Antwort berücksichtigt mehrere Möglichkeiten im Detail. Und @amoeba fragte, ob ich meine Erfahrungen mit Biplot teilen würde.
Meine Erfahrung (sowohl theoretisch als auch experimentell) ist zwar sehr bescheiden, zeigt jedoch zwei Dinge auf, die nicht so häufig erkannt werden: (1) Biplot sollte eher als Analysetechnik als als Nebenstreudiagramm klassifiziert werden; (2) PCA, Korrespondenzanalyse (und einige andere bekannte Techniken) sind tatsächlich besondere Fälle des Biplots. Oder zumindest sind sie beide fast Zwillinge, um sich zu verwickeln. Wenn Sie Biplot machen können, können Sie die anderen beiden machen.
Meine Frage an Sie lautet: Wie sind sie (PCA, CA, Biplot) für Sie verbunden? Bitte teilen Sie Ihre Gedanken. In der Zwischenzeit poste ich mein eigenes Konto darüber. Ich möchte darum bitten, weitere Antworten hinzuzufügen und kritische Anmerkungen zu machen.
Antworten:
SVD
Singularwertzerlegung ist die Wurzel der drei verwandten Techniken. Let sei Tabelle von realen Werten. SVD ist . Wir können nur erste latente Vektoren und Wurzeln verwenden, um als die beste Rang-Approximation von : . Außerdem notieren wir , , .X r×c X=Ur×rSr×cV′c×c m [m≤min(r,c)] X(m) m X X(m)=Ur×mSm×mV′c×m U=Ur×m V=Vc×m S=Sm×m
Singularwerte und ihre Quadrate, die Eigenwerte, repräsentieren den Maßstab der Daten , auch Trägheit genannt . Linke Eigenvektoren sind die Koordinaten der Datenzeilen auf den Hauptachsen; während rechte Eigenvektoren die Koordinaten der auf denselben latenten Achsen sind. Die gesamte Skala (Trägheit) wird in gespeichert, und daher werden die Koordinaten und in Einheiten normiert (Spalte SS = 1).S U m V S U V
Hauptkomponentenanalyse durch SVD
In PCA wird vereinbart, Zeilen von als zufällige Beobachtungen (die kommen oder gehen können) zu betrachten, Spalten von als feste Anzahl von Dimensionen oder Variablen. Daher ist es angebracht und zweckmäßig, die Auswirkung der Anzahl der Zeilen (und nur der Zeilen) auf die Ergebnisse, insbesondere auf die Eigenwerte, durch svd-Zerlegung von anstelle von zu entfernen. . Beachten Sie, dass dies einer von , wobei die Stichprobengröße ist . (Meistens mit Kovarianzen - um sie unvoreingenommen zu machen - werden wir es vorziehen, durch zu teilen , aber es ist eine Nuance.)X X Z=X/r√ X X′X/r r r−1
n
Die Multiplikation von mit einer Konstanten betrifft nur ; und bleiben die in Einheiten normierten Koordinaten von Zeilen und Spalten.X S U V
Von hier und überall unten definieren wir , und wie es durch svd von , nicht von ; ist eine normalisierte Version von , und die Normalisierung variiert zwischen den Analysetypen.S U V Z X Z X
Durch Multiplikation von bringen wir das mittlere Quadrat in den Spalten von auf 1. Da Zeilen für uns Zufallsfälle sind, ist es logisch. Auf diese Weise haben wir die im PCA- Standard oder in standardisierten Hauptkomponenten genannten Punktzahlen für Beobachtungen erhalten, . Mit wir nicht dasselbe, weil Variablen feste Entitäten sind.Ur√=U∗ U U∗ V
Wir können dann verleihen Reihen mit allen Trägheit, unstandardized Zeilenkoordinaten zu erhalten, auch in PCA genannt rohen Hauptbestandteilswerte von Beobachtungen: . Diese Formel nennen wir "direkten Weg". Das gleiche Ergebnis wird von ; wir werden es als "indirekter Weg" bezeichnen.U∗S XV
Analog können wir Spalten mit der gesamten Trägheit zuweisen, um nicht standardisierte Spaltenkoordinaten zu erhalten, die in PCA auch als komponentenvariable Ladungen bezeichnet werden : [kann die Transponierung ignorieren, wenn quadratisch ist], - der "direkte Weg". Das gleiche Ergebnis , - der "indirekte Weg". (Die obigen standardisierten Hauptkomponentenbewertungen können auch aus den Ladungen als berechnet werden , wobei die Ladungen sind.)VS′ S Z′U X(AS−1/2) A
Biplot
Betrachten Sie Biplot im Sinne einer Dimensionsreduktionsanalyse für sich, nicht einfach als "Dual Scatterplot". Diese Analyse ist der PCA sehr ähnlich. Im Gegensatz zu PCA werden sowohl Zeilen als auch Spalten symmetrisch als zufällige Beobachtungen behandelt, was bedeutet, dass als zufällige Zwei-Wege-Tabelle mit unterschiedlicher Dimension betrachtet wird. Dann natürlich normalisieren sie durch sowohl und vor SVD: .X r c Z=X/rc−−√
Berechnen Sie nach svd die Standardzeilenkoordinaten wie in PCA beschrieben: . Machen Sie dasselbe (im Gegensatz zu PCA) mit Spaltenvektoren, um Standardspaltenkoordinaten zu erhalten : . Standardkoordinaten von Zeilen und Spalten haben das mittlere Quadrat 1.U∗=Ur√ V∗=Vc√
Wir können Zeilen- und / oder Spaltenkoordinaten mit der Trägheit von Eigenwerten wie in PCA zuweisen. Nicht standardisierte Zeilenkoordinaten : (direkter Weg). Nicht standardisierte Spaltenkoordinaten: (direkter Weg). Was ist mit dem indirekten Weg? Sie können leicht durch Ersetzungen ableiten, dass die indirekte Formel für die nicht standardisierten Zeilenkoordinaten und für die nicht standardisierten Spaltenkoordinaten .U∗S V∗S′ XV∗/c X′U∗/r
PCA als besonderer Fall von Biplot . Aus den obigen Beschreibungen haben Sie wahrscheinlich erfahren, dass sich PCA und Biplot nur darin unterscheiden, wie sie in normalisieren, das dann zerlegt wird. Der Biplot normalisiert sich sowohl durch die Anzahl der Zeilen als auch durch die Anzahl der Spalten. PCA normalisiert nur durch die Anzahl der Zeilen. Folglich gibt es einen kleinen Unterschied zwischen den beiden Post-DVD-Berechnungen. Wenn Sie beim Biplot in seinen Formeln , erhalten Sie genau die PCA-Ergebnisse. Somit kann Biplot als generische Methode und PCA als besonderer Fall von Biplot angesehen werden.X Z c=1
[ Spaltenzentrierung . Einige Benutzer mögen sagen: Stop, aber erfordert PCA nicht auch und vor allem die Zentrierung der Datenspalten (Variablen), um die Varianz zu erklären ? Während Biplot kann die Zentrierung nicht tun? Meine Antwort: Nur PCA-in-narrow-sense führt die Zentrierung durch und erklärt die Varianz. Ich spreche über lineare PCA im Allgemeinen, PCA, die eine Art Summe der quadratischen Abweichungen vom gewählten Ursprung erklärt. Sie können es als Datenmittelwert, als native 0 oder nach Belieben auswählen. Daher ist die "Zentrierungs" -Operation nicht das, was PCA von Biplot unterscheiden könnte.]
Passive Zeilen und Spalten
In Biplot oder PCA können Sie einige Zeilen und / oder Spalten als passiv oder ergänzend festlegen. Passive Zeilen oder Spalten beeinflussen die SVD nicht und beeinflussen daher nicht die Trägheit oder die Koordinaten anderer Zeilen / Spalten, sondern erhalten ihre Koordinaten im Raum der Hauptachsen, die durch die aktiven (nicht passiven) Zeilen / Spalten erzeugt werden.
Um einige Punkte (Zeilen / Spalten) als passiv festzulegen, (1) definieren Sie und als die Anzahl der aktiven Zeilen und Spalten. (2) In vor svd passive Zeilen und Spalten auf Null setzen. (3) Verwenden Sie die "indirekten" Methoden, um die Koordinaten passiver Zeilen / Spalten zu berechnen, da deren Eigenvektorwerte Null sind.r c Z
Wenn Sie in PCA Komponentenbewertungen für neu eingehende Fälle mithilfe von Ladungen berechnen, die anhand alter Beobachtungen ermittelt wurden (unter Verwendung der Bewertungskoeffizientenmatrix ), verhalten Sie sich genau so, als würden Sie diese neuen Fälle in PCA aufnehmen und passiv lassen. In ähnlicher Weise ist die Berechnung von Korrelationen / Kovarianzen einiger externer Variablen mit den von einer PCA erzeugten Komponentenbewertungen gleichbedeutend damit, diese Variablen in dieser PCA zu übernehmen und passiv zu halten.
Beliebige Trägheitsausbreitung
Die Spaltenmittelquadrate (MS) von Standardkoordinaten sind 1. Die Spaltenmittelquadrate (MS) von nicht standardisierten Koordinaten entsprechen der Trägheit der jeweiligen Hauptachsen: Die gesamte Trägheit von Eigenwerten wurde an Eigenvektoren gespendet, um die nicht standardisierten Koordinaten zu erzeugen.
In Biplot : row Standardkoordinaten haben MS = 1 für jede Hauptachse. Row unstandardized Koordinaten, die auch als Zeilenhaupt Koordinaten hat MS = entsprechenden Eigenwert von . Gleiches gilt für Spaltenstandard- und nicht standardisierte (Haupt-) Koordinaten.U∗ U∗S=XV∗/c Z
Im Allgemeinen ist es nicht erforderlich, dass man Koordinaten entweder vollständig oder gar nicht mit Trägheit ausstattet. Willkürliche Verbreitung ist zulässig, falls dies aus irgendeinem Grund erforderlich ist. Lassen der seinen Anteil an Trägheit , die Reihen zu gehen. Dann lautet die allgemeine Formel der : (direkter Weg) = (indirekter Weg). Wenn wir Standardzeilenkoordinaten, während wir mit Hauptzeilenkoordinaten erhalten.p1 U∗Sp1 XV∗Sp1−1/c p1=0 p1=1
Ebenso ist der Anteil der Trägheit, der in Spalten gehen soll. Dann lautet die allgemeine Formel der Spaltenkoordinaten: (direkter Weg) = (indirekter Weg). Wenn wir Standardspaltenkoordinaten, während wir mit Hauptspaltenkoordinaten erhalten.p2 V∗Sp2 X′U∗Sp2−1/r p2=0 p2=1
Die allgemeinen indirekten Formeln sind insofern universell, als sie die Berechnung von Koordinaten (Standard-, Haupt- oder Zwischenkoordinaten) auch für die gegebenenfalls vorhandenen passiven Punkte ermöglichen.
Wenn , wird die Trägheit auf Zeilen- und Spaltenpunkte verteilt. Die , dh Zeilen-Haupt-Spalten-Standard, werden manchmal als Biplots "Form Biplots" oder "Row-Metric Preservation" bezeichnet. Die , dh Zeilen-Standard-Spalten-Prinzip, werden in der PCA-Literatur häufig als "Kovarianz-Biplots" oder "spaltenmetrische Konservierungs-Biplots" bezeichnet. Sie zeigen variable Belastungen ( die Kovarianzen gegenübergestellt sind) sowie standardisierte Komponentenbewertungen, wenn sie innerhalb der PCA angewendet werden.p1+p2=1 p1=1,p2=0 p1=0,p2=1
In Korrespondenzanalyse , wird häufig verwendet und wird als „symmetrisch“ oder „kanonische“ Normalisierung durch Trägheit genannt - es ermöglicht (wenn auch in einem gewissen expence des euklidischen geometrischen Strikt) zu vergleichen , die Nähe zwischen Zeilen- und Spaltenpunkten, wie wir kann auf mehrdimensionalen entfalten Karte tun.p1=p2=1/2
Korrespondenzanalyse (Euklidisches Modell)
Die bidirektionale (= einfache) Korrespondenzanalyse (CA) wird zum Analysieren einer bidirektionalen Kontingenztabelle verwendet, d. H. Einer nicht negativen Tabelle, deren Einträge die Bedeutung einer Affinität zwischen einer Zeile und einer Spalte haben. Wenn es sich bei der Tabelle um Frequenzen handelt, wird eine Chi-Quadrat-Modell-Korrespondenzanalyse verwendet. Wenn die Einträge beispielsweise Mittelwerte oder andere Bewertungen sind, wird eine einfachere euklidische Modell-CA verwendet.
Das euklidische Modell CA ist nur der oben beschriebene Biplot, nur dass die Tabelle zusätzlich vorverarbeitet wird, bevor sie in die Biplot-Operationen eintritt. Insbesondere werden die Werte nicht nur durch und sondern auch durch die Gesamtsumme normiert .X r c N
Die Vorverarbeitung besteht aus dem Zentrieren und anschließenden Normalisieren um die mittlere Masse. Das Zentrieren kann verschieden sein, am häufigsten: (1) Zentrieren von Säulen; (2) Zentrieren von Reihen; (3) Zweiwegezentrierung, die die gleiche Operation wie die Berechnung von Frequenzresten ist; (4) Zentrieren von Spalten nach dem Ausgleichen von Spaltensummen; (5) Zentrieren der Zeilen nach dem Ausgleich der Zeilensummen. Das Normalisieren durch die mittlere Masse wird durch den mittleren Zellwert der Anfangstabelle dividiert. Im Vorverarbeitungsschritt werden passive Zeilen / Spalten, falls vorhanden, passiv standardisiert: Sie werden durch die aus aktiven Zeilen / Spalten berechneten Werte zentriert / normalisiert.
Dann wird das übliche Biplot auf dem vorverarbeiteten , beginnend mit .X Z=X/rc−−√
Gewichteter Biplot
Stellen Sie sich vor, dass die Aktivität oder Wichtigkeit einer Zeile oder Spalte eine beliebige Zahl zwischen 0 und 1 sein kann und nicht nur 0 (passiv) oder 1 (aktiv), wie im bisher diskutierten klassischen Biplot. Wir könnten die Eingabedaten mit diesen Zeilen- und Spaltengewichten gewichten und einen gewichteten Biplot durchführen. Bei einem gewichteten Biplot ist die Zeile oder Spalte in Bezug auf alle Ergebnisse - die Trägheit und die Koordinaten aller Punkte auf den Hauptachsen - umso einflussreicher, je größer das Gewicht ist.
Der Benutzer gibt Zeilen- und Spaltengewichte ein. Diese und jene werden zuerst separat normalisiert, um auf 1 zu summieren. Dann ist der Normalisierungsschritt , wobei und die Gewichte für Zeile i und Spalte j sind . Ein genaues Nullgewicht kennzeichnet die Zeile oder die Spalte als passiv.Zij=Xijwiwj−−−−√ wi wj
An diesem Punkt können wir feststellen, dass der klassische Biplot einfach dieser gewichtete Biplot mit gleichen Gewichten für alle aktiven Zeilen und gleichen Gewichten für alle aktiven Spalten ist; und die Anzahl der aktiven Zeilen und aktiven Spalten.1/r 1/c r c
Führen Sie eine DVD von . Alle Operationen sind die gleichen wie im klassischen Biplot, der einzige Unterschied besteht darin, dass anstelle von und anstelle von . Standardzeilenkoordinaten: und Standardspaltenkoordinaten: . (Dies gilt für Zeilen / Spalten mit einer Gewichtung ungleich Null. Belassen Sie die Werte für solche mit einer Gewichtung ungleich Null bei 0 und verwenden Sie die folgenden indirekten Formeln, um Standardkoordinaten oder beliebige Koordinaten für diese zu erhalten.)Z wi 1/r wj 1/c U∗i=Ui/wi−−√ V∗j=Vj/wj−−√
Geben Sie den Koordinaten die gewünschte Trägheit (bei und die Koordinaten vollständig nicht standardisiert, bei und bleiben sie standardisiert). Zeilen: (direkter Weg) = (indirekter Weg). Spalten: (direkter Weg) = (indirekter Weg). Matrizen in Klammern sind hier die diagonalen Matrizen der Spalten- bzw. Zeilengewichte. Für passive Punkte (dh mit Gewichten von Null) ist nur die indirekte Berechnungsmethode geeignet. Für aktive Punkte (positive Gewichte) können Sie einen beliebigen Weg wählen.p1=1 p2=1 p1=0 p2=0 U∗Sp1 X[Wj]V∗Sp1−1 V∗Sp2 ([Wi]X)′U∗Sp2−1
PCA als besonderer Fall von Biplot überarbeitet . Bei der Betrachtung eines ungewichteten Biplots erwähnte ich zuvor, dass PCA und Biplot äquivalent sind. Der einzige Unterschied besteht darin, dass Biplot Spalten (Variablen) der Daten als zufällige Fälle symmetrisch zu Beobachtungen (Zeilen) ansieht. Nachdem wir nun den Biplot auf einen allgemeineren gewichteten Biplot ausgeweitet haben, können wir ihn erneut beanspruchen. Der einzige Unterschied besteht darin, dass der (gewichtete) Biplot die Summe der Spaltengewichte der Eingabedaten auf 1 und den (gewichteten) PCA auf die Anzahl von ( aktive) Spalten. Hier wird also die gewichtete PCA eingeführt. Die Ergebnisse sind proportional zu denen des gewichteten Biplots identisch. Insbesondere wennc Ist die Anzahl der aktiven Spalten, so gelten für gewichtete und klassische Versionen der beiden Analysen die folgenden Beziehungen:
Korrespondenzanalyse (Chi-Quadrat-Modell)
Dies ist technisch gesehen ein gewichteter Biplot, bei dem die Gewichte aus einer Tabelle selbst berechnet werden und nicht vom Benutzer bereitgestellt werden. Es wird hauptsächlich zur Analyse von Frequenzkreuztabellen verwendet. Bei diesem Biplot werden die Chi-Quadrat-Abstände in der Tabelle durch euklidische Abstände auf dem Plot angenähert. Der Chi-Quadrat-Abstand ist mathematisch der euklidische Abstand, der mit den Randsummen umgekehrt gewichtet wird. Ich werde nicht weiter auf die Geometrie des Chi-Quadrat-Modells CA eingehen.
Die Vorverarbeitung der Frequenztabelle ist wie folgt: Teilen Sie jede Frequenz durch die erwartete Frequenz und subtrahieren Sie dann 1. Es ist dasselbe, als ob Sie zuerst den Frequenzrest erhalten und dann durch die erwartete Frequenz dividieren. Setzen Sie die auf und die Spaltengewichte auf , wobei die von Zeile i ist (nur aktive Spalten), die von Spalte j ist (nur aktive Zeilen), ist die aktive Gesamtsumme der Tabelle (die drei Zahlen stammen aus der Anfangstabelle).X wi=Ri/N wj=Cj/N Ri Cj N
Dann tun gewichtete Biplot: (1) Normalisieren in . (2) Die Gewichte sind niemals Null (Null und sind in CA nicht zulässig); Sie können jedoch erzwingen, dass Zeilen / Spalten passiv werden, indem Sie sie in auf Null setzen, sodass ihre Gewichtung bei svd unwirksam ist. (3) DVD machen. (4) Berechnen Sie die Standard- und Trägheitskoordinaten wie im gewichteten Biplot.X Z Ri Cj Z
Sowohl im Chi-Quadrat-Modell CA als auch im euklidischen Modell CA mit Zweiwege-Zentrierung ist ein letzter Eigenwert immer 0, sodass die maximal mögliche Anzahl von Hauptdimensionen .min(r−1,c−1)
Siehe auch eine schöne Übersicht über das Chi-Quadrat-Modell CA in dieser Antwort .
Abbildungen
Hier ist eine Datentabelle.
Es folgen mehrere Doppelstreudiagramme (in 2 ersten Hauptdimensionen), die auf Analysen dieser Werte basieren. Spaltenpunkte sind zur visuellen Hervorhebung durch Spitzen mit dem Ursprung verbunden. Diese Analysen enthielten keine passiven Zeilen oder Spalten.
Der erste Biplot sind SVD- Ergebnisse der Datentabelle, die "wie sie ist" analysiert wurden; Die Koordinaten sind die Zeilen- und Spalteneigenvektoren.
Unten ist eine der möglichen Biplots, die von PCA stammen . PCA wurde mit den Daten "wie sie sind" durchgeführt, ohne die Spalten zu zentrieren; Da dies jedoch in PCA übernommen wurde, wurde zunächst eine Normalisierung durch die Anzahl der Zeilen (die Anzahl der Fälle) durchgeführt. In diesem speziellen Biplot werden die Hauptzeilenkoordinaten (dh die Rohkomponentenwerte) und die Hauptspaltenkoordinaten (dh die variablen Ladungen) angezeigt.
Als nächstes folgt biplot sensu stricto : Die Tabelle wurde anfangs sowohl durch die Anzahl der Zeilen als auch durch die Anzahl der Spalten normalisiert. Die Hauptnormalisierung (Trägheitsverteilung) wurde sowohl für Zeilen- als auch für Spaltenkoordinaten verwendet - wie bei der obigen PCA. Beachten Sie die Ähnlichkeit mit dem PCA-Biplot: Der einzige Unterschied beruht auf dem Unterschied in der anfänglichen Normalisierung.
Chi-Quadrat-Modell- Korrespondenzanalyse- Biplot. Die Datentabelle wurde in besonderer Weise vorverarbeitet, sie enthielt eine bidirektionale Zentrierung und eine Normalisierung unter Verwendung von Randsummen. Es ist ein gewichteter Biplot. Die Trägheit wurde symmetrisch über die Zeilen- und Spaltenkoordinaten verteilt - beide liegen auf halber Strecke zwischen "Haupt" - und "Standard" -Koordinaten.
Die Koordinaten, die auf all diesen Streudiagrammen angezeigt werden:
quelle