Was bedeuten die Achsen in t-SNE?

12

Ich versuche gerade, meinen Kopf um die t-SNE- Mathematik zu wickeln . Leider gibt es noch eine Frage, die ich nicht zufriedenstellend beantworten kann: Was ist die tatsächliche Bedeutung der Achsen in einem t-SNE-Diagramm? Wenn ich zu diesem Thema einen Vortrag halten oder in eine Veröffentlichung aufnehmen würde: Wie würde ich die Achsen angemessen kennzeichnen?

PS: Ich habe diese Reddit-Frage gelesen , aber die dort gegebenen Antworten (wie "es hängt von der Interpretation und dem Domänenwissen ab") helfen mir nicht wirklich, dies zu verstehen.

machine-learning dimensionality-reduction tsne Hagbard
quelle

Antworten:

20

Einzelne Achsen in t-SNE haben überhaupt keine Bedeutung.

Algorithmen wie MDS, SNE, t-SNE usw. kümmern sich nur um paarweise Abstände zwischen Punkten. Sie versuchen, die Punkte auf einer Ebene so zu positionieren, dass die paarweisen Abstände zwischen ihnen ein bestimmtes Kriterium minimieren würden. Das heißt, wenn Sie ein t-SNE-Diagramm aufnehmen und drehen, ist die resultierende Anordnung für t-SNE gleich gut. Die Gesamtdrehung, die Sie aus dem t-SNE-Algorithmus herausholen, ist also beliebig.

Um die Achsen zu beschriften, empfehle ich, etwas wie "t-SNE Dimension 1" und "t-SNE Dimension 2" zu schreiben.

(Manchmal schreiben die Leute "t-SNE 1" und "t-SNE 2" oder etwas Ähnliches, was schlampig ist. Manchmal sehe ich "t-SNE Komponente 1" und "t-SNE Komponente 2"; aber ich denke, dass das Wort "Komponente" funktioniert in diesem Zusammenhang nicht sehr gut.)

Amöbe sagt Reinstate Monica
quelle
2
Eine Folge dieser Antwort ist, dass der Reddit-Vorschlag ein wenig falsch ist. Es gibt wahrscheinlich keine vernünftige Möglichkeit, die Achsen im Allgemeinen zu interpretieren, selbst wenn Sie über Domänenwissen verfügen, das Sie anwenden müssen.
Shadowtalker
3
Eine weitere Konsequenz dieser Antwort ist, dass die Achsen auf derselben Skala angezeigt werden sollten. Wenn Sie also mit einer Rotatormatrix multiplizieren und Ihren Kopf entsprechend neigen, würde die Darstellung genau gleich aussehen. Dies ist leider weit von der Standardpraxis entfernt (meckern!).
eric_kernfeld