Warum verwenden wir kein gewichtetes arithmetisches Mittel anstelle eines harmonischen Mittels?

Ich frage mich, was ist ein innerer Wert der Verwendung des harmonischen Mittelwerts (zum Beispiel zur Berechnung von F-Maßen) im Gegensatz zum gewichteten arithmetischen Mittelwert bei der Kombination von Präzision und Erinnerung? Ich denke, dass der gewichtete arithmetische Durchschnitt die Rolle des harmonischen Mittelwerts spielen könnte, oder fehlt mir etwas?

machine-learning monte-carlo precision-recall harmonic-mean olga
quelle

Das harmonische Mittel ist ein gewichtetes arithmetisches Mittel: Jedes hat ein Gewicht proportional zu .

x_{i}

$x_i$

1 / x_{i}^{2}

$1/x_i^2$

whuber

Können Sie mehr darüber sagen, wie Präzision und Erinnerung auf diese Weise kombiniert werden?

Adamo

@whuber Ich bin mir nicht sicher, ob dein Kommentar ernst oder frech ist. Die Gewichte sind in der Regel eine Funktion der Probe angenommen Index , nicht von der Probe Wert . Ansonsten ist jeder Mittelwert ein gewichteter arithmetischer Mittelwert

Luis Mendo

@ Luis Die Wahrheit liegt dazwischen. Der Stichprobenindex ist oft bedeutungslos. Gewichte sind Funktionen der Objekte, aber diese Funktionen hängen normalerweise nicht von den gemittelten Werten ab. Beispiele sind Zeitgewichte (EWMA), Ort (wie bei Messungen der räumlichen Korrelation), Rang (wie beim Shapiro-Wilk-Test) und Stichprobenwahrscheinlichkeiten. Aber nicht alle Mittel sind gewichtete AMs: der GM zum Beispiel nicht. Da Filippa nach dem "instrumentellen Wert" fragt, schien es wichtig, auf die mathematische Beziehung zwischen dem harmonischen Mittel und dem gewichteten Mittel hinzuweisen.

whuber

Antworten:

Im Allgemeinen werden harmonische Mittel bevorzugt, wenn versucht wird, Raten anstelle ganzer Zahlen zu mitteln. Im Fall eines F1-Maßes bestraft ein harmonisches Mittel sehr kleine Präzisionen oder Rückrufe, während das ungewichtete arithmetische Mittel dies nicht tut. Stellen Sie sich einen Durchschnitt von 100% und 0% vor: Der arithmetische Mittelwert beträgt 50% und der harmonische Mittelwert 0%. Das harmonische Mittel erfordert, dass sowohl Präzision als auch Rückruf hoch sind.

Wenn die Genauigkeit und der Rückruf nahe beieinander liegen, liegt das harmonische Mittel nahe am arithmetischen Mittel. Beispiel: Das harmonische Mittel von 95% und 90% beträgt 92,4% im Vergleich zum arithmetischen Mittel von 92,5%.

Ob dies eine wünschenswerte Eigenschaft ist, hängt wahrscheinlich von Ihrem Anwendungsfall ab, wird jedoch normalerweise als gut angesehen.

Beachten Sie schließlich, dass das harmonische Mittel, wie @whuber in den Kommentaren feststellte, tatsächlich ein gewichtetes arithmetisches Mittel ist.

ilanman
quelle

"Harmonische Mittel werden bevorzugt, wenn man versucht, Durchschnittsraten zu erzielen" Vielleicht, wenn Sie km mit km / h und km mit km / h zurückfahren , um eine durchschnittliche Gesamtgeschwindigkeit von km / h zu erreichen, aber nicht, wenn Sie Fahren Sie Minuten mit km / h und Minuten mit km / h, um eine durchschnittliche Gesamtgeschwindigkeit von km / h zu erreichen. Aber ich verstehe nicht, warum das für Brüche gilt

10

$10$

120

$120$

10

$10$

60

$60$

80

$80$

10

$10$

120

$120$

10

$10$

60

$60$

90

$90$

Henry

In der Tat ist der erste Absatz eher eine allgemeine Aussage über das harmonische Mittel. Aber Sie haben Recht, Präzision und Rückruf sind Bruchteile und keine Raten. Ich glaube, es gibt eine Vorstellung, dass ein arithmetischer Durchschnitt für Werte mit einer interpretierbaren Summation bevorzugt wird (was in diesem Fall nicht zutreffen würde), aber sicherlich kann man einen arithmetischen Durchschnitt der Genauigkeit nehmen und ein nützliches Ergebnis abrufen und ausgeben.

Ilanman

Ausgezeichnet! Ich suche eher nach "Rechtfertigungen" für die Verwendung der harmonischen Mittelungsregel. Aber ich bin nicht sicher, wie ich über die Rechtfertigungen denken soll.

Oga

Das harmonische Mittel kann ein praktischer Ersatz für das arithmetische Mittel sein, wenn dieses keine Erwartung oder keine Varianz hat. Es kann tatsächlich der Fall sein, dass nicht existiert oder unendlich ist, während existiert. Zum Beispiel hat die Pareto-Verteilung mit der Dichte keine Endlichkeit Erwartung bei , was impliziert, dass das arithmetische Mittel eine unendliche Erwartung hat, während was impliziert, dass das harmonische Mittel eine endliche Erwartung hat. $\mathbb{E}[X]$ $\mathbb{E}[1/X]$

f (x) = \frac{α x_{0}^{α}}{x^{α + 1}} I_{x \geq x_{0}}

$f(x)=\dfrac{\alpha x_0^{\alpha}}{x^{\alpha+1}}\mathbb{I}_{x\ge x_0}$

α \leq 1

$\alpha\le 1$

E [1 / X] = \int_{x_{0}}^{\infty} \frac{α x_{0}^{α}}{x^{α + 2}} d x = \frac{α x_{0}^{α}}{(α + 1) x_{0}^{α + 1}} = \frac{α}{(α + 1) x_{0}}

$\mathbb{E}[1/X]=\int_{x_0}^\infty \dfrac{\alpha x_0^{\alpha}}{x^{\alpha+2}}\,\text{d}x=\dfrac{\alpha x_0^{\alpha}}{(\alpha+1) x_0^{\alpha+1}}=\dfrac{\alpha}{(\alpha+1) x_0}$

Umgekehrt gibt es Verteilungen, für die das harmonische Mittel keine Erwartung hat, wie zum Beispiel die Beta -Verteilung bei . Und viele mehr, für die es keine Varianz gibt. $\mathcal{B}e(\alpha,\beta)$ $\alpha\le1$

Es gibt auch eine Verbindung mit Monte-Carlo-Näherungen zu Integralen und insbesondere zu normalisierenden Konstanten, basierend auf der Bayes'schen posterioren Identität wobei eine beliebige Dichte ist, der Prior ist, die Wahrscheinlichkeit und der Rand, wie in dieser anderen Frage zu X diskutiert , validiert, wo ich auf die Gefahren der Verwendung dessen, was Radford Neal (U Toronto) den schlechtesten Monte-Carlo-Schätzer aller Zeiten nennt , kommentiere . (Ich habe auch mehrere Einträge in meinem Blog zu diesem Thema geschrieben.)

E [\frac{φ (θ)}{π (θ) L (θ | x)} | x] = \frac{1}{m (x)}

$\mathbb{E}\left[\dfrac{\varphi(\theta)}{\pi(\theta)L(\theta|x)}\Big| x\right]=\dfrac{1}{m(x)}$

φ (\cdot)

$\varphi(\cdot)$

π (\cdot)

$\pi(\cdot)$

L (\cdot | x)

$L(\cdot|x)$

m (\cdot)

$m(\cdot)$

Xi'an
quelle

Warum sind diese Eigenschaften bei der Mittelwertbildung vorzuziehen?

Walross die Katze

Ich kenne keine Optimalitätsergebnisse, aber einen Schätzer mit einer endlichen Erwartung zu haben, scheint einem ohne vorzuziehen!

Xi'an