Wie kann beispielsweise die Gammaverteilung nahe Null divergieren (für einen geeigneten Satz von Skalierungs- und Formparametern, z. B. Form und Skalierung ) und ihre Fläche immer noch gleich eins haben?$=0.1$$=10$

Nach meinem Verständnis sollte die Fläche einer Wahrscheinlichkeitsdichteverteilung immer gleich eins sein. Wenn Sie die Dirac-Delta-Verteilung nehmen, die bei Null divergiert, aber an keiner anderen Stelle Null ist, haben Sie eine Fläche gleich Eins.

Wenn Sie den Bereich einer divergierenden Gamma-Verteilung nehmen würden, könnten Sie ihn als den Bereich einer Dirac-Delta-Verteilung ausdrücken, plus etwas mehr, da er bei Gewicht ungleich Null hat , also größer als eins wäre.$x\neq0$

Kann mir jemand erklären, wo meine Argumentation falsch ist?

Wenn Sie den Bereich einer divergierenden Gamma-Verteilung nehmen würden, könnten Sie ihn als den Bereich einer Dirac-Delta-Verteilung ausdrücken, plus etwas mehr, da er bei Gewicht ungleich Null hat , also größer als eins wäre.$x \neq 0$

Hier geht Ihre Argumentation schief: Sie können keine Funktion, die bei unendlich ist, automatisch als Delta-Verteilung plus etwas mehr ausdrücken . Wenn Sie dies mit tun könnten , wer sagt dann, dass Sie es nicht auch mit tun könnten ? Oder ? Oder irgendein anderer Koeffizient? Es ist genauso gültig zu sagen, dass diese Verteilungen für Null und bei unendlich sind ; warum nicht die gleiche Argumentation mit ihnen verwenden?δ ( x ) 2 δ ( x ) 10 - 10 δ ( x ) x ≠ 0 x = $x = 0$$\delta(x)$$2\delta(x)$$10^{-10}\delta(x)$$x\neq 0$$x = 0$

Tatsächlich sollten Verteilungen (im mathematischen Sinne der Verteilungstheorie) eher als Funktionen von Funktionen betrachtet werden - Sie geben eine Funktion ein und erhalten eine Zahl heraus. Speziell für die Delta-Verteilung erhalten Sie, wenn Sie die Funktion eingeben, die Zahl . Verteilungen sind keine normalen Funktionen von Zahl zu Zahl. Sie sind komplizierter und leistungsfähiger als solche "normalen" Funktionen.f ( 0 $f$$f(0)$

Diese Idee, eine Funktion in eine Zahl umzuwandeln, ist jedem bekannt, der es gewohnt ist, mit Wahrscheinlichkeit umzugehen. Beispielsweise kann die Reihe von Verteilungsmomenten - Mittelwert, Standardabweichung, Schiefe, Kurtosis usw. - als Regeln betrachtet werden, die eine Funktion (die Wahrscheinlichkeitsverteilung) in eine Zahl (das entsprechende Moment) verwandeln. Nehmen Sie zum Beispiel den Mittelwert / Erwartungswert. Diese Regel eine Wahrscheinlichkeitsverteilung in die Zahl , berechnet als Oder die Regel für die Varianz dreht in die Zahl , wobei E P [ x ] E P [ x ] = ∫ P ( x $P(x)$$E_P[x]$

$$E_P[x] = \int P(x)\,x\ \mathrm{d}x$$ $P(x)$$\sigma_P^2$ $$\sigma_P^2[x] = \int P(x)\,(x - E_P[x])^2\ \mathrm{d}x$$ Meine Notation ist hier etwas seltsam, aber hoffentlich haben Sie die Idee. ¹

Möglicherweise haben Sie etwas gemeinsam, das diese Regeln gemeinsam haben: In allen Fällen können Sie von der Funktion zur Zahl gelangen, indem Sie die Funktion mal eine andere Gewichtungsfunktion integrieren. Dies ist eine sehr verbreitete Methode zur Darstellung mathematischer Verteilungen. Es ist also natürlich zu fragen, ob es eine Gewichtungsfunktion , mit der Sie die Aktion einer solchen Delta-Verteilung darstellen können. Sie können leicht feststellen , dass , wenn es eine solche Funktion ist, ist es gleich sein muss bei jedem . Sie können jedoch keinen Wert für$\delta(x)$

$$f\to \int \delta(x)\, f(x)\ \mathrm{d}x$$ $0$$x\neq 0$$\delta(0)$auf diese Weise. Sie können zeigen, dass es größer als jede endliche Zahl ist, aber es gibt keinen tatsächlichen Wert für , mit dem diese Gleichung unter Verwendung der Standardideen der Integration funktioniert. ²$\delta(0)$

Der Grund dafür ist, dass die Delta-Verteilung mehr beinhaltet als nur Folgendes: Das " " ist irreführend. Es steht für eine ganze Reihe zusätzlicher Informationen über die Delta-Verteilung, die normale Funktionen einfach nicht darstellen können. Und deshalb kann man nicht sinnvoll sagen, dass die Gammaverteilung "mehr" ist als die Deltaverteilung. Sicher, bei jedem ist der Wert der Gammaverteilung größer als der Wert der Deltaverteilung, aber alle nützlichen Informationen über die Deltaverteilung sind an diesem Punkt bei , und diese Informationen sind zu reichhaltig und komplex, damit Sie sagen können, dass eine Distribution mehr ist als die andere.

$$\begin{cases}0, & x\neq 0 \\ \infty, & x = 0\end{cases}$$ $\infty$$x > 0$$x = 0$

---

Technische Details

¹ Tatsächlich können Sie Dinge umdrehen und sich die Wahrscheinlichkeitsverteilung selbst als mathematische Verteilung vorstellen. In diesem Sinne ist die Wahrscheinlichkeitsverteilung eine Regel, die eine Gewichtungsfunktion wie oder auf eine Zahl bzw. . Wenn Sie so denken, ist die Standardnotation etwas sinnvoller, aber ich denke, die Gesamtidee ist für einen Beitrag über mathematische Verteilungen etwas weniger natürlich.$x$$(x - E[x])^2$$E[x]$$\sigma_x^2$

² Insbesondere gehe ich von "Standardideen der Integration" über die Riemann-Integration und die Lebesgue-Integration aus , die beide die Eigenschaft haben, dass zwei Funktionen, die sich nur an einem einzigen Punkt unterscheiden, dasselbe Integral haben müssen (bei gleichen Grenzen). Wenn es eine Funktion gäbe, würde sie sich nur an einem Punkt von der Funktion unterscheiden , nämlich , und daher müssten die Integrale der beiden Funktionen immer gleich sein. gibt also keine Nummer, der Sie zuweisen können , mit dem der Effekt der Delta-Verteilung reproduziert wird.$\delta(x)$$0$$x = 0$

$$\int_a^b \delta(x)f(x)\ \mathrm{d}x = \int_a^b (0)f(x)\ \mathrm{d}x = 0$$ $\delta(0)$

Das Dirac - Delta ist wirklich nicht allzu hilfreich hier (obwohl es ist interessant), weil die Gamma - Verteilung eine kontinuierliche Dichte hat, während die Dirac etwa ist als nicht-kontinuierliche , wie Sie bekommen können.

Sie haben Recht, dass das Integral einer Wahrscheinlichkeitsdichte eins sein muss (ich werde mich nur an die auf der positiven Achse definierten Dichten halten).

$$\int_0^\infty f(x)\,dx =1.$$

Im Gamma-Fall divergiert die Dichte als , so dass wir ein sogenanntes falsches Integral haben . In einem solchen Fall wird das Integral als Grenze definiert, wenn sich die Integrationsgrenzen dem Punkt nähern, an dem der Integrand nicht definiert ist.$f(x)$$x\to 0$

$$\int_0^\infty f(x)\,dx := \lim_{a\to 0}\int_a^\infty f(x)\,dx,$$

solange diese Grenze besteht .

(Übrigens verwenden wir denselben Missbrauch Notations Bedeutung des Symbols zu geben „ “, die als die Grenze des Integrals definiert als , wiederum solange dies Grenzwert existiert also in diesem speziellen Fall haben wir zwei problematischen Punkte haben -. , wo der Integrand nicht definiert ist, und ., wo wir das Integral nicht direkt auswerten können wir in beiden Fällen mit Grenzen arbeiten müssen).$\int^\infty$$\int^b$$b\to\infty$$0$$\infty$

Speziell für die Gamma-Verteilung umgehen wir das Problem. Wir definieren zuerst die Gamma-Funktion wie folgt:

$$\Gamma(k) := \int_0^\infty y^{k-1}e^{-y}\,dy.$$

Als nächstes beweisen wir, dass diese Definition im Sinne der oben beschriebenen unterschiedlichen Grenzen tatsächlich Sinn macht. Der Einfachheit halber können wir hier bei bleiben , obwohl die Definition auch auf (viele) komplexe Werte erweitert werden kann . Diese Prüfung ist eine Standardanwendung von Kalkül und eine schöne Übung.$k>0$$k$

Als nächstes ersetzen wir für und durch die Änderung der Variablen Formel erhalten$x:=\theta y$$\theta>0$

$$\Gamma(k) = \int_0^\infty \frac{x^{k-1}e^{-\frac{x}{\theta}}}{\theta^k}\,dx,$$

von dem wir das bekommen

$$1 = \int_0^\infty \frac{x^{k-1}e^{-\frac{x}{\theta}}}{\Gamma(k)\theta^k}\,dx.$$

Das heißt, der Integrand integriert sich in eins und ist daher eine Wahrscheinlichkeitsdichte. Wir nennen es die Gamma-Verteilung mit Form und Skala .$k$$\theta$

Jetzt merke ich, dass ich hier wirklich das Geld gegeben habe. Das Kernstück des Arguments liegt in der Tatsache, dass die obige Definition der Gammafunktion sinnvoll ist. Dies ist jedoch ein einfacher Kalkül, keine Statistik, daher fühle ich mich nur leicht schuldig, wenn ich Sie auf Ihr Lieblingslehrbuch für Kalkül und das Gammafunktions-Tag bei Math.SO verweise , insbesondere auf diese Frage und diese Frage .

Betrachten Sie eine Standard-Exponentialdichte und betrachten Sie eine grafische Darstellung von gegen (linkes Feld im folgenden Diagramm).$f(x)=\exp(-x)\,,\:x>0$$y=f(x)$$x$

Vermutlich ist es nicht unergründlich, dass es für alle eine positive Dichte gibt, die Fläche jedoch .$x>0$$1$

Tauschen wir nun und ... das heißt oder gegen . Dies ist eine gültige Dichte, die asymptotisch zur Achse ist (also unbegrenzt als ), aber ihre Fläche ist eindeutig identisch mit der Exponentialdichte (dh die Fläche unter der Kurve muss immer noch 1 sein - wir haben nur reflektiert die Form und Reflexion ist flächenerhaltend).y x = exp ( - y ) y = - ln ( x ) 0 < x ≤ 1 y x → $x$$y$$x=\exp(-y)$$y = -\ln(x)$$0<x\leq 1$$y$$x\to 0$

Es ist klar, dass Dichten unbegrenzt sein können, aber Fläche 1 haben.

Dies ist eher eine Kalkülfrage als eine Statistik. Sie fragen sich, wie eine Funktion, die bei einigen Werten ihres Arguments ins Unendliche geht, immer noch eine endliche Fläche unter der Kurve haben kann?

Das ist eine berechtigte Frage. Wenn Sie beispielsweise anstelle der Gammafunktion eine Übertreibung vorgenommen haben: , für konvergiert der Bereich unter der Kurve nicht, sondern ist unendlich.$y=1/x$$x=[0,\infty)$

Es ist also ein Wunder, dass eine gewichtete Summe sehr großer oder sogar unendlicher Zahlen zu einer endlichen Zahl konvergiert. Die Summe wird gewichtet, denn wenn Sie sich die Integraldefinition von Riemann ansehen, könnte dies eine Summe wie diese sein: Je nachdem, welche Punkte Sie auswählen, können die Gewichte klein oder groß sein. Wenn Sie sich 0 , wird größer, aber auch kleiner. In diesem Wettbewerb gewinnt und das Integral konvergiert nicht.

$$\int_0^\infty 1/x dx=\lim_{n\rightarrow\infty} \sum_{i=0}^n \frac{\Delta x_i}{x_i}$$ $x_i$$\Delta x_i$$1/x_i$$\Delta x_i$$1/x_i$

Bei der Gamma-Verteilung schrumpft schneller als Gamma PDF und der Bereich ist endlich. Es ist eine reine Berechnung, um zu sehen, wie genau sie gegen 1 konvergiert.$\Delta x_i$

Schauen Sie sich das folgende Beispiel an. Beachten Sie, dass für jedes endliche ,$N$

$$\int_0^N \frac{1}{x} dx = \log(N)-\log(0)$$

aber ist undefiniert, so dass das Integral in gewissem Sinne (dies hat eine Grenze, aber ignoriere sie). Aber$\log(0)$$\infty$

$$\int_0^N \frac{1}{\sqrt{x}} dx = \sqrt{N} - \sqrt{0} = \sqrt{N}$$

Im Allgemeinen basiert dies auf der Idee, dass

$$\int \frac{1}{x^p} dx = x^{1-p}$$

Wenn also ist, sagt Ihnen der Grundsatz der Analysis, dass das Integral endlich ist. Die Idee ist also, dass es langsam genug divergiert (wobei die Geschwindigkeit ist), dass der Bereich immer noch begrenzt ist.$1-p>0$$p$

Dies ähnelt der Konvergenz von Reihen. Denken Sie daran, dass wir das durch den p-Test haben

$$\sum_0^\infty \frac{1}{x^p}$$

konvergiert genau dann, wenn . In diesem Fall brauchen wir schnell genug, wobei wiederum die Geschwindigkeit und der Wendepunkt ist.x p → ∞ p $p>1$$x^p \rightarrow \infty$$p$$1$

Warum kann das eine tatsächliche Sache sein? Denken Sie an die Koch-Schneeflocke . In diesem Beispiel fügen Sie den Umfang der Schneeflocke so hinzu, dass die Fläche langsam wächst. Dies liegt an der Tatsache, dass, wenn Sie ein gleichseitiges Dreieck mit Seiten der Größe erstellen, der Umfang 1 ist, während die Fläche$\frac{1}{3}$$\frac{1}{12\sqrt{3}}\sim 0.05$. Da die Fläche so viel kleiner als der Umfang ist (es ist die Multiplikation zweier kleiner Zahlen anstelle der Addition!), Können Sie Dreiecke so hinzufügen, dass der Umfang unendlich wird, während die Fläche endlich bleibt. Um dies zu tun, müssen Sie eine Geschwindigkeit wählen, bei der die Dreiecke auf Null gehen, und wie Sie wahrscheinlich inzwischen erraten haben, gibt es eine Geschwindigkeit, bei der von zu langsam und unendlicher Fläche zu schnell genug zu endlicher Fläche gewechselt wird.

Insgesamt sagt uns der Kalkül, dass nicht alle Singularitäten (die "Nullpunkte" wie Null sind) gleich sind. Es gibt große Unterschiede, die auf der "lokalen Geschwindigkeit" der Singularität beruhen. einfach eine Singularität, die "langsam genug" ist, dass die Fläche endlich ist. Wenn Sie mehr über das "Warum" von Singularitäten erfahren möchten, die so funktionieren, können Sie sich in der komplexen Analyse und ihrer Untersuchung der Singularitäten komplexer analytischer Funktionen (von denen ist) mit viel mehr Details befassen .$\Gamma$$\Gamma$