Für ein Matrix , wo , wie ist die Beziehung zwischen (Streumatrix, auf der die Kovarianzmatrix basiert) und (äußeres Produkt manchmal Gram-Matrix genannt)?
Wenn einer bekannt ist, wie ist es möglich , den anderen zu erhalten (das Beste, was man tun kann)?
Antworten:
Eine Singular Value Decomposition (SVD) vonX. drückt es aus als
woU. ist ein n × r Matrix, deren Spalten zueinander orthonormal sind, V. ist ein p × r Matrix, deren Spalten zueinander orthonormal sind, und D. ist ein r × r Diagonalmatrix mit positiven Werten (die "Singularwerte" von X. ) auf der Diagonale. Notwendigr - was ist der Rang von X. --kann nicht größer sein als beides n oder p .
Damit berechnen wir
und
Obwohl wir uns erholen könnenD.2 durch Diagonalisierung eines von X.'X. oder X.X.' Ersteres gibt keine Auskunft über U. und letzteres gibt keine Auskunft über V. . Jedoch,U. und V. sind völlig unabhängig voneinander - beginnend mit einem von ihnen, zusammen mit D. können Sie die andere beliebig auswählen (abhängig von den Orthonormalitätsbedingungen) und eine gültige Matrix erstellen X. . DeshalbD.2 enthält alle Informationen, die den Matrizen gemeinsam sindX.'X. und X.X.' .
Es gibt eine schöne geometrische Interpretation, die dazu beiträgt, dies zu überzeugen. Mit der SVD können wir jede lineare Transformation anzeigenT.X. (wie durch die Matrix dargestellt X. ) von Rp zu Rn in Bezug auf drei leicht verständliche lineare Transformationen:
Die Transponierung vonV , V′ entspricht einer linearen Transformation TV′:Rp→Rr das tötet alle Vektoren in Rp das sind senkrecht zu TV(Rr) . Es dreht sich sonstTV(Rr) in Rr . Gleichermaßen können Sie sich vorstellenTV′ als "Ignorieren" von senkrechten Richtungen und Einrichten eines orthonormalen Koordinatensystems innerhalb TV(Rr)⊂Rp . TD wirkt direkt auf dieses Koordinatensystem und dehnt sich um verschiedene Beträge (wie durch die Singularwerte angegeben) entlang der durch bestimmten Koordinatenachsen aus V . TU ordnet dann das Ergebnis zu Rn .
Die lineare Transformation, die mit verbunden istX′X in der Tat wirkt auf TV(Rr) durch zwei "Rundreisen": TX erweitert die Koordinaten im System bestimmt durch V durch TD und dann TX′ macht alles noch einmal. Ähnlich,XX′ macht genau das gleiche mit dem r -dimensionaler Unterraum von Rn gegründet von der r orthogonale Spalten von U . So ist die Rolle vonV ist es, einen Rahmen in einem Unterraum von zu beschreibenRp und die Rolle von U ist es, einen Rahmen in einem Unterraum von zu beschreiben Rn . Die MatrixX′X gibt uns Informationen über den Rahmen im ersten Feld und XX′ sagt uns den Frame im zweiten Raum, aber diese beiden Frames müssen überhaupt keine Beziehung zueinander haben.
quelle