Protokollwahrscheinlichkeiten in Bezug auf den Softmax-Klassifikator

Es gibt einen Unterschied zwischen Wahrscheinlichkeiten und Protokollwahrscheinlichkeiten. Wenn die Wahrscheinlichkeit eines Ereignisses 0,36787944117 beträgt, was zufällig , beträgt die Protokollwahrscheinlichkeit -1. $1/e$

Wenn Sie also eine Reihe nicht normalisierter Protokollwahrscheinlichkeiten erhalten und die ursprünglichen Wahrscheinlichkeiten wiederherstellen möchten, nehmen Sie zuerst den Exponenten aller Ihrer Zahlen, wodurch Sie nicht normalisierte Wahrscheinlichkeiten erhalten. Als nächstes normalisieren Sie sie wie gewohnt. Mathematisch ist das

p_{j} = \frac{e^{z_{j}}}{\sum_{i} e^{z_{i}}}

$p_j = \frac{e^{z_j}}{\sum_i e^{z_i}}$

Dabei ist die Wahrscheinlichkeit der ten Klasse und die Eingaben in den Softmax-Klassifikator. $p_j$ $j$ $z_i$

Die offensichtliche Frage ist, warum man sich die Mühe macht, Exponenten zu machen. Warum nicht verwenden

p_{j} = \frac{z_{j}}{\sum_{i} z_{i}}

$p_j = \frac{z_j}{\sum_i z_i}$

stattdessen?

Ein Grund dafür ist, dass der Softmax gut mit dem Kreuzentropieverlust spielt, der , wobei die wahre Verteilung (die Bezeichnungen) ist. Intuitiv wird das Protokoll mit dem Exponenten abgebrochen, was für uns sehr hilfreich ist. $-E_q[\log p]$ $q$

Es stellt sich heraus , dass , wenn Sie die Steigung der Quer Entropieverlust in Bezug auf die Eingaben in den Sichter nehmen , erhalten Sie $\vec z$

\vec{p} - 1_{j}

$\vec p - 1_j$

wenn das Grundwahrheitslabel in der Klasse und der entsprechende One-Hot-Vektor ist. Dies ist ein sehr schöner Ausdruck und führt zu einer einfachen Interpretation und Optimierung. $j$ $1_j$

Wenn Sie andererseits versuchen, nicht normalisierte Wahrscheinlichkeiten anstelle von nicht normalisierten Protokollwahrscheinlichkeiten zu verwenden, erhalten Sie den Gradienten

\frac{1}{\sum_{i} z_{i}} - {\vec{1}}_{j}^{T} \frac{1}{z}

$\frac{1}{\sum_i z_i} - \vec 1_j^T\frac{1}{z}$

Dieser Ausdruck ist in Bezug auf die Interpretierbarkeit viel weniger gut und Sie können auch potenzielle numerische Probleme erkennen, wenn nahe 0 liegt. $z$

Ein weiterer Grund für die Verwendung von Protokollwahrscheinlichkeiten ist die logistische Regression, die lediglich ein Sonderfall der Softmax-Klassifizierung ist. Die Form der Sigmoid-Funktion funktioniert gut, da die Wahrscheinlichkeit von Klassen intuitiv nicht linear mit den Eingaben variiert, wenn Sie sich über den Feature-Space bewegen. Die scharfe Biegung der Sigmoidfunktion, die die scharfe Grenze zwischen zwei Klassen betont, ist wirklich ein Ergebnis des Exponentialterms, den wir auf die Eingaben von Softmax anwenden.

Shimao
quelle

Wo ist das Protokoll im Ausdruck nicht normalisierter Protokollwahrscheinlichkeiten?

Abhishek Bhatia

Das Protokoll stammt aus der Tatsache, dass . Das Protokoll der Wahrscheinlichkeiten ist die Protokollwahrscheinlichkeit. Da ich in meinem Beitrag in die entgegengesetzte Richtung ging - Wahrscheinlichkeiten zu Wahrscheinlichkeiten protokollieren, habe ich exp anstelle von log verwendet.

\log p_{j} \propto z_{j}

$\log p_j \propto z_j$

Shimao

Protokollwahrscheinlichkeiten in Bezug auf den Softmax-Klassifikator

Antworten: