Was ist der Zweck charakteristischer Funktionen?

37

Ich hoffe, dass jemand dem Laien erklären kann, was eine charakteristische Funktion ist und wie sie in der Praxis verwendet wird. Ich habe gelesen, dass es sich um die Fourier-Transformation des PDF handelt. Ich glaube, ich weiß, was es ist, aber ich verstehe den Zweck immer noch nicht. Wenn jemand eine intuitive Beschreibung seines Zwecks und vielleicht ein Beispiel für seine typische Verwendung geben könnte, wäre das fantastisch!

Nur eine letzte Anmerkung: Ich habe die Wikipedia-Seite gesehen , bin aber anscheinend zu dicht, um zu verstehen, was los ist. Was ich suche, ist eine Erklärung, die jemand, der nicht in die Wunder der Wahrscheinlichkeitstheorie eingetaucht ist, wie ein Informatiker sagt, verstehen könnte.

probability mathematical-statistics characteristic-function Nick
quelle

47

Früher verwendeten die Leute Logarithmus-Tabellen, um Zahlen schneller zu multiplizieren. Warum ist das? Logarithmen wandeln Multiplikation in Addition um, da . Um also zwei große Zahlen und zu multiplizieren , haben Sie deren Logarithmen gefunden, die Logarithmen hinzugefügt, , und dann in einer anderen Tabelle nachgeschlagen . $\log(ab) = \log(a) + \log(b)$ $a$ $b$ $z = \log(a) + \log(b)$ $\exp(z)$

Nun machen charakteristische Funktionen eine ähnliche Sache für Wahrscheinlichkeitsverteilungen. Angenommen, hat eine Verteilung und hat eine Verteilung und und sind unabhängig. Dann ist die Verteilung von die Faltung von und , . $X$ $f$ $Y$ $g$ $X$ $Y$ $X+Y$ $f$ $g$ $f * g$

Nun ist die charakteristische Funktion eine Analogie des "Logarithmus-Tabellen-Tricks" für die Faltung, da, wenn die charakteristische Funktion von , die folgende Beziehung gilt: $\phi_f$ $f$

ϕ_{f} ϕ_{g} = ϕ_{f * g}

$\phi_f \phi_g = \phi_{f * g}$

Darüber hinaus auch , wie im Fall von Logarithmen, es ist einfach die Umkehrung der charakteristischen Funktion zu finden: Da wo eine unbekannte Dichte, können wir erhalten durch die inverse Fourier - Transformation von . $\phi_h$ $h$ $h$ $\phi_h$

Die charakteristische Funktion wandelt Faltung in Multiplikation für Dichtefunktionen um, genauso wie Logarithmen Multiplikation in Addition für Zahlen umwandeln . Beide Transformationen wandeln eine relativ komplizierte Operation in eine relativ einfache um.

charles.y.zheng
quelle

22

Andere Punkte, die erwähnt werden sollten: (a) Wiederherstellung von Momenten durch Differenzierung, (b) die Tatsache, dass alle Verteilungen charakteristische Funktionen haben (im Vergleich zu momenterzeugenden Funktionen), (c) die (im Wesentlichen) Eins-zu-Eins-Entsprechung zwischen Verteilungen und ihre charakteristischen Funktionen, und (d) die Tatsache, dass viele relativ häufige Verteilungen bekannte charakteristische Funktionen haben, aber keinen bekannten Ausdruck für die Dichte (z. B. stabile Verteilungen von Levy).

Kardinal

3

Gute Kommentare, @ Kardinal. Bitte überlegen Sie, sie in eine tatsächliche Antwort umzuwandeln.

Whuber

Hat es für diejenigen unter Ihnen, die dieses Thema verstehen, überhaupt etwas mit charakteristischen Gleichungen zu tun, wie sie für Wiederholungsrelationen verwendet werden (dh in Knuths Konkreter Mathematik)? Ich vermute, dass sie sehr unterschiedlich sind und das Wort "charakteristisch" nur zufällig teilen, aber ich dachte, ich würde fragen.

Wayne

@ Wayne sollten Sie dies als Frage posten. Ich denke, es gibt eine enge Verbindung: Charakteristische Funktionen ergeben sich aus der Fourier-Transformation, der Gelfand-Transformation, die sich auf Verteilungen auf der realen Linie bezieht. Die charakteristische Gleichung einer Wiederholungsbeziehung scheint sich aus der Wahrscheinlichkeitsfunktion zu ergeben, bei der es sich um die Gelfand-Transformation handelt, die mit den natürlichen Zahlen assoziiert ist. Man kann sich vorstellen, dass die Variablen in Wiederholungsrelationen Werte in diskreten Zeitschritten, dh natürlichen Zahlen, annehmen.

Cantorhead

@Wayne ... Ich denke, der Operator, der eine Variable in einer wiederkehrenden Beziehung zu ihrer charakteristischen Gleichung nimmt, kann als "Fourier-Transformation" betrachtet werden, die sich auf Verteilungen auf die natürlichen Zahlen bezieht. Ich habe nach dieser Frage gesucht und sie nicht gefunden, würde mich aber sehr über Antworten freuen, wenn Sie sie posten würden.

Cantorhead

6

@ charles.y.zheng und @ cardinal gaben sehr gute Antworten, ich werde meine zwei Cent hinzufügen. Ja, die charakteristische Funktion sieht möglicherweise nach unnötiger Komplikation aus, ist jedoch ein leistungsstarkes Tool, mit dem Sie Ergebnisse erzielen können. Wenn Sie versuchen, etwas mit einer kumulativen Verteilungsfunktion zu beweisen, ist es immer ratsam zu prüfen, ob das Ergebnis nicht mit einer charakteristischen Funktion erhalten werden kann. Dies gibt manchmal sehr kurze Beweise.

Obwohl die charakteristische Funktion auf den ersten Blick nicht intuitiv mit Wahrscheinlichkeitsverteilungen zu arbeiten scheint, gibt es einige leistungsfähige Ergebnisse, die direkt damit zusammenhängen. Dies impliziert, dass Sie dieses Konzept nicht als bloße mathematische Belustigung verwerfen können. Mein Lieblingsergebnis in der Wahrscheinlichkeitstheorie ist zum Beispiel, dass jede unendlich teilbare Verteilung die einzigartige Lévy-Khintchine-Darstellung hat . In Kombination mit der Tatsache, dass die unendlich teilbaren Verteilungen die einzig mögliche Verteilung für die Grenzen von Summen unabhängiger Zufallsvariablen sind (ausgenommen bizarre Fälle), ist dies ein tiefes Ergebnis, aus dem der zentrale Grenzwertsatz abgeleitet wird.

mpiktas
quelle

3

Der Zweck charakteristischer Funktionen besteht darin, dass sie verwendet werden können, um die Eigenschaften von Verteilungen in der Wahrscheinlichkeitstheorie abzuleiten. Wenn Sie sich nicht für solche Ableitungen interessieren, müssen Sie sich nicht mit charakteristischen Funktionen auseinandersetzen.

ein Stop
quelle

Ich nehme an, dass ich an solchen Ableitungen interessiert sein könnte - ich verstehe nur nicht ganz, warum wir zur charakteristischen Funktion gehen müssen? Warum ist es einfacher als direkt mit dem pdf / cdf umzugehen?

Nick

1

@Nick Dies hat ein bisschen Folklore-Element, wie "das ist so elegant, dass dies die Darstellung eines Distributionskonzepts ist, ...". Natürlich hilft es , mit einiger Mathematik, so dass es nicht nur ein redundantes Spielzeug, aber für einen täglichen Gebrauch entspricht es einen Physiker zwingen zu einem klassischen Problem nur zu verwenden Feinstrukturkonstante.

ℏ

$\hbar$

Wir nicht brauchen , sie zu benutzen. Ich sagte nur, dass sie verwendet werden können. Manchmal geben sie eine schnellere Ableitung, manchmal sind sie überhaupt keine Hilfe. Ob eine Herleitung 'einfacher' ist, hängt davon ab, was Sie bereits wissen - wenn Sie nicht bereits über charakteristische Funktionen Bescheid wissen, wird es nicht einfacher. In einigen Fällen bieten Momentgenerierungsfunktionen eine Alternative und werden direkter interpretiert.

Onestop

2

Die charakteristische Funktion ist die Fourier-Transformation der Dichtefunktion der Verteilung. Wenn Sie eine Vorstellung von Fourier-Transformationen haben, kann diese Tatsache aufschlussreich sein. Die gemeinsame Geschichte über Fourier-Transformationen ist, dass sie die Funktion "im Frequenzraum" beschreiben. Da eine Wahrscheinlichkeitsdichte normalerweise unimodal ist (zumindest in der realen Welt oder in den Modellen, die über die reale Welt erstellt wurden), scheint dies nicht besonders interessant zu sein.

shabbychef
quelle

1

Hinweis : Ein potenzieller Editor behauptet, dass die "charakteristische Funktion die inverse Fourier-Transformation" ist.

gung - Wiedereinsetzung von Monica

-1

Die Fourier-Transformation ist eine Zerlegung der Funktion (nicht periodisch) in ihre Frequenzen. Interpretation für Dichten?

Die Fourier-Transformation ist die kontinuierliche Version einer Fourier-Reihe, da keine Dichte periodisch ist und kein Ausdruck wie "charakteristische Reihe".

niko schmith
quelle

Was ist der Zweck charakteristischer Funktionen?

Antworten: