Ich habe die Diskussion in Hacker News über die Verwendung der Standardabweichung im Gegensatz zu anderen Metriken wie der mittleren absoluten Abweichung gelesen . Wenn wir also dem Prinzip der maximalen Entropie folgen würden, mit welcher Art von Verteilung würden wir arbeiten, wenn wir nur den Mittelwert der Verteilung und die mittlere absolute Abweichung kennen würden?
Oder ist es sinnvoller, den Median und die mittlere absolute Abweichung vom Median zu verwenden?
Ich habe ein Papier Maximum Entropy Principle mit allgemeinen Abweichungsmaßen von Grechuk, Molyboha und Zabarankin gefunden, das die Informationen zu enthalten scheint, auf die ich neugierig bin, aber es dauert eine Weile, bis ich sie entschlüsselt habe.
distributions
maximum-entropy
mad
Dietrich Epp
quelle
quelle
Antworten:
Diese weisen Herren, Kotz, S., Kozubowski, TJ & Podgorski, K. (2001). Die Laplace-Verteilung und Verallgemeinerungen: Ein Rückblick auf Anwendungen in den Bereichen Kommunikation, Wirtschaft, Ingenieurwesen und Finanzen (Nr. 183). Springer.
Fordern Sie uns mit einer Übung heraus:
Der Beweis kann dem informationstheoretischen Beweis folgen, dass das Normal die maximale Entropie für den gegebenen Mittelwert und die gegebene Varianz ist. Insbesondere: Sei die obige Laplace-Dichte und sei eine beliebige andere Dichte, die jedoch den gleichen Mittelwert und die gleiche mittlere absolute Abweichung aufweist. Dies bedeutet, dass folgende Gleichheit gilt:f(x) g(x)
Das erste Integral ist das Negativ der (Differential-) Entropie von , bezeichnet es . Das zweite Integral ist (explizit das Laplace-PDF schreiben)g −h(g)
Einfügen dieser Ergebnisse in Gl. wir haben Da willkürlich war, beweist dies, dass die oberhalb der Laplace-Dichte ist die maximale Entropie unter allen Verteilungen mit den obigen Vorschriften.[2]
quelle