Eine stetige Funktion einer Folge von Zufallsvektoren konvergiert mit der Wahrscheinlichkeit gegen die Funktion der Grenze

Satz: Wenn eine Folge von k-dimensionalen Zufallsvektoren st und wenn eine kontinuierliche Abbildung ist, dann ist . $\{ X_n \}$ $X_n \overset{p}{\to} X$ $g: R^k \rightarrow R^m$ $g(X_n) \overset{p}{\to} g(X)$

Beweis: Sei eine positive reelle Zahl. Dann geben wir ein wir haben $K$ $\epsilon > 0$ Geben Sie hier die Bildbeschreibung ein

Geben Sie hier die Bildbeschreibung ein

Ich verstehe nicht, warum einheitlich stetig ist und könnte ich einige zusätzliche Schritte / Erklärungen für die Einschlusserklärung haben, die sich daraus ergibt? $g$

time-series probability convergence asymptotics Monolith
quelle

g

$g$ ist gleichmäßig stetig auf da diese Menge kompakt ist und Kontinuität auf einer kompakten Menge eine einheitliche Kontinuität impliziert.

{x : | x | \leq K}

$\{x : |x| \le K\}$

Monolite

Ich sehe nicht, wohin dieser Beweis führt. Es scheint ein "Sandwich to Zero" -Beweis zu sein, was bedeutet, dass der vorletzte Ausdruck auf der rechten Seite der letzten abgebildeten Reihe von Ungleichungen, dh die Summe von vier Wahrscheinlichkeiten, auf Null gehen sollte. Die erste und vierte Komponente gehen unter der Annahme einer Konvergenz der Wahrscheinlichkeit von auf Null , aber die zweite und dritte? Die tatsächliche Grenze kann alles sein. Was vermisse ich?

X_{n}

$X_n$

X

$X$

Alecos Papadopoulos

@AlecosPapadopoulos Ich werde im Rest des Beweises bearbeiten.

Monolite

Antworten:

Dies alles beruht auf der axiomatischen und selbstverständlichen Tatsache, dass wenn und Ereignisse sind, dann . Alles andere ist nur Manipulation mit Mengen (die mit Venn-Diagrammen visualisiert werden können). $\mathcal{A}$ $\mathcal{B}$ $\mathbb{P}(\mathcal{A} \cup \mathcal{B}) \le \mathbb{P}(\mathcal{A}) + \mathbb{P}(\mathcal{B})$

Um dies anzuwenden, muss die Notation dekodiert werden, was wiederum bedeutet, sich daran zu erinnern, dass das meiste davon eine Abkürzung für Teilmengen eines Beispielraums . Zu Beginn ist es zweckmäßig, das geordnete Paar als einzelne Zufallsvariable mit Werten im metrischen Raum . $\Omega$ $\mathrm{Z}_n = (\mathrm{X}_n, \mathrm{X})$ $M = \mathbb{R}^k\times \mathbb{R}^k$

Ich werde den größten Teil dieser Notation auf Aussagen über die inversen Bilder von Funktionen von bis reduzieren . $\Omega$ $\mathbb{R}$

Definieren Sie zunächst

g^{'} : M \to R, g^{'} ((X, Y)) = g (X) - g (Y) .

$g^\prime:M \to \mathbb{R},\ g^\prime((\mathrm{X}, \mathrm{Y})) = g(\mathrm{X}) - g(\mathrm{Y}).$

Die funktionelle Zusammensetzung

g^{'} \circ Z_{n} : Ω \to R, (g^{'} \circ Z_{n}) (ω) = g^{'} (Z_{n} (ω))

$g^\prime \circ \mathrm{Z}_n:\Omega \to \mathbb{R},\ (g^\prime \circ \mathrm{Z}_n)(\omega) = g^\prime\left(Z_n\left(\omega\right)\right)$

ist eine reelle Funktion von . $\Omega$

Lassen

A_{n} = {| g (X_{n}) - g (X) | > ε} = {ω \in Ω : | g (X_{n} (ω)) - g (X (ω)) | > ε} .

$\mathcal{A}_n = \{|g(\mathrm{X}_n) - g(\mathrm{X})| \gt \varepsilon\} = \{\omega\in\Omega\,:\, |g(\mathrm{X}_n(\omega)) - g(\mathrm{X}(\omega))| \gt \varepsilon\}.$

Dies ist das umgekehrte Bild des Komplements des realen Intervalls : $B(\varepsilon) = [-\varepsilon, \varepsilon]$

A_{n} = (g^{'} \circ Z_{n})^{- 1} (R ∖ B (ε)) .

$\mathcal{A}_n = (g^\prime \circ \mathrm{Z}_n)^{-1}(\mathbb{R} \setminus B(\varepsilon)).$

Es sind nur ein paar Punkte in . $\Omega$ (In Worten: besteht aus allen Ergebnissen, bei denen sich die Werte von auf und zu stark unterscheiden.) $\mathcal{A}_n$ $g$ $\mathrm{X}$ $\mathrm{X}_n$

(Um die Notation zu vereinfachen, schreiben wir Set-Ergänzungen in mit Überstrichen wie in $\mathbb{R}$

\bar{B} (ε) = R ∖ B (ε)

$\bar B(\varepsilon) = \mathbb{R} \setminus B(\varepsilon)$

zum Beispiel.)

Ebenso lassen

B = {X \leq K} = {ω \in Ω : X (ω) \leq K} = X^{- 1} (B (K))

$\mathcal{B} = \{\mathrm{X} \le K\} = \{\omega\in\Omega\,:\, \mathrm{X}(\omega) \le K\} = \mathrm{X}^{-1}(B(K))$

(Dies sind die Ergebnisse, bei denen durch ) und $\mathrm{X}$ $K$

B_{n} = {X_{n} \leq K} = {ω \in Ω : X_{n} (ω) \leq K} = X_{n}^{- 1} (B (K))

$\mathcal{B}_n = \{\mathrm{X}_n \le K\} = \{\omega\in\Omega\,:\, \mathrm{X}_n(\omega) \le K\} = \mathrm{X}_n^{-1}(B(K))$

(die Ergebnisse, bei denen durch ). $\mathrm{X}_n$ $K$

Zum Schluss schreiben

d : M \to R, d ((X, Y)) = | X - Y |,

$d:M\to\mathbb{R},\ d((\mathrm{X}, \mathrm{Y})) = |\mathrm{X}-\mathrm{Y}|,$

einstellen

C_{n} = {| X_{n} - X | > γ (ε)} = {ω \in Ω : | X_{n} (ω) - X (ω) | > γ (ε)} = (d \circ Z_{n})^{- 1} (\bar{B} (γ (ε)))

$\mathcal{C}_n = \{|\mathrm{X}_n-\mathrm{X}| \gt \gamma(\varepsilon)\} = \{\omega\in\Omega\,:\,|\mathrm{X}_n(\omega)-\mathrm{X}(\omega)| \gt \gamma(\varepsilon)\} = (d \circ \mathrm{Z}_n)^{-1}(\bar B(\gamma(\varepsilon)))$

(Die Ergebnisse, bei denen zu stark von abweicht ). $\mathrm{X}_n$ $\mathrm{X}$

Alle vier Mengen werden dabei als inverse Bilder von reellen Funktionen angesehen.

Denken Sie an die Beziehung zwischen inversen Bildern von Funktionen und Ergänzungen. Wenn eine Funktion zwischen Mengen und , dann $f:A\to B$ $C\subset B$

A ∖ f^{- 1} (C) \subset f^{- 1} (B ∖ C) .

$A \setminus f^{-1}(C) \subset f^{-1}(B\setminus C).$

Der Beweis ist einfach: Auf der linken Seite befinden sich alle Elemente , die nicht von an gesendet werden . Da - eine Funktion sein - für alle Elemente von , muss jedes solche an das Komplement von in , QED gesendet werden . $x\in A$ $C$ $f$ $f$ $A$ $x$ $C$ $B$

Mit diesen mechanischen, satztheoretischen Vorbereitungen können wir den Text jetzt interpretieren. In der Aussage nach "da gleichmäßig stetig ist ..." sehen wir $g$

{| g (X_{n} - g (X) | > ε, X \leq K, X_{n} \leq K} = A_{n} \cap B \cap B_{n}

$\{|g(\mathrm{X}_n - g(\mathrm{X})| \gt \varepsilon,\ \mathrm{X}\le K,\ \mathrm{X}_n \le K\} = \mathcal{A}_n \cap \mathcal{B} \cap \mathcal{B}_n$

und auf der rechten Seite befindet sich selbst. Im ersten Schritt nach "Daher" sehen wir solche Mengen wie $\mathcal{C}_n$

‘ ‘ X > K "= X^{- 1} (\bar{B} (K)) \supset \bar{B}

$``\mathrm{X} \gt K" = \mathrm{X}^{-1} (\bar B(K)) \supset \bar{\mathcal{B}}$

und

‘ ‘ X_{n} > K "= X_{n}^{- 1} (\bar{B} (K)) \supset \bar{B_{n}} .

$``\mathrm{X}_n \gt K" = \mathrm{X}_n^{-1} (\bar B(K)) \supset \bar{\mathcal{B}_n}.$

Ihre Wahrscheinlichkeiten werden summiert. Dies legt nahe, dass wir die Beziehung zwischen betrachten

A_{n} \cap B \cap B_{n} \subseteq C_{n}

$\mathcal{A}_n \cap \mathcal{B} \cap \mathcal{B}_n \subseteq \mathcal{C}_n$

und

A_{n} \subseteq C_{n} \cup \bar{B} \cup \bar{B_{n}} .

$\mathcal{A}_n \subseteq \mathcal{C}_n \cup \bar{\mathcal{B}} \cup \bar{\mathcal{B}_n}.$

Die Klarheit dieser Notation macht jetzt deutlich, dass die erste Einbeziehung die zweite impliziert, da jedes , das nicht in mit Sicherheit darin liegt $\omega\in\mathcal{A}_n$ $\mathcal{B}\cap\mathcal{B}_n$

Ω ∖ (B \cap B_{n}) = \bar{B} \cup \bar{B_{n}} .

$\Omega \setminus (\mathcal{B}\cap\mathcal{B}_n) = \bar{\mathcal{B}} \cup \bar{\mathcal{B}_n}.$

Zahl

Die linke Seite der Abbildung zeigt ein Venn-Diagramm mit in Grau, während die rechte Abbildung in grau. Der linke graue Bereich ist eindeutig im rechten grauen Bereich enthalten. $\mathcal{A}_n \cap \mathcal{B} \cap \mathcal{B}_n$ $\mathcal{C}_n \cup \bar{\mathcal{B}} \cup \bar{\mathcal{B}_n} = \mathcal{C}_n \cup \left(\Omega \setminus \left(\mathcal{B} \cap \mathcal{B}_n\right)\right)$

Wenn wir Wahrscheinlichkeiten anwenden, folgt sofort die erste Ungleichung nach "Daher", da die Wahrscheinlichkeit einer Vereinigung die Summe der Wahrscheinlichkeiten nicht überschreiten kann, wie eingangs erwähnt.

Die nächste Ungleichung wird auf die gleiche Weise abgeleitet: Ich überlasse die Zeichnung des Venn-Diagramms dem interessierten Leser.

whuber
quelle

Womit haben Sie diese großartigen Venn-Diagrammbilder gemacht?

Matthew Drury

@ Matthew Mathematica. Es ist nur eine Sammlung von RegionPlotObjekten, die überlagert sind Show, sehr schnell und schmutzig. Die Mengen selbst sind durch quadratische Ungleichungen definiert, so dass ein paar schnelle Richtungsänderungen von zwei von ihnen die linke Grafik zuverlässig in die rechte umwandeln.

whuber

Vorschlag. Wenn eine Folge von dimensionalen Zufallsvektoren ist, so dass setzt und ist stetig, dann setzt . $\{X_n\}_{n\geq 1}$ $k$ $X_n\overset{\Pr}\to X$ $g:\mathbb{R}^k\to\mathbb{R}^m$ $g(X_n)\overset{\Pr}\to g(X)$

Beweis . Für jedes , wenn , dann was entweder ergibt oder . Daher ist für jedes . Da eine stetige Funktion ist, ist es in der kompakten Menge gleichmäßig stetig . Daher existiert für jedes ein $K>0$ $\|X_n(\omega)\|>K$

‖ X_{n} (ω) - X (ω) ‖ + ‖ X (ω) ‖ \geq ‖ X_{n} (ω) - X (ω) + X (ω) ‖ = ‖ X_{n} (ω) ‖ > K,

$\|X_n(\omega)-X(\omega)\|+\|X(\omega)\|\geq\|X_n(\omega)-X(\omega)+X(\omega)\|=\|X_n(\omega)\|>K,$

‖ X_{n} (ω) - X (ω) ‖ > K / 2

$\|X_n(\omega)-X(\omega)\|>K/2$

‖ X (ω) ‖ > K / 2

$\|X(\omega)\|>K/2$

{ω : ‖ X_{n} (ω) ‖ > K} \subset {ω : ‖ X_{n} (ω) - X (ω) ‖ > K / 2} \cup {ω : ‖ X (ω) ‖ > K / 2},

$\left\{\omega:\|X_n(\omega)\|>K \right\} \subset \left\{ \omega : \|X_n(\omega)-X(\omega)\|>K/2 \right\} \cup \left\{ \omega : \|X(\omega)\|>K/2 \right\},$

n \geq 1

$n\geq 1$

g

$g$

{v \in R^{k} : ‖ v ‖ \leq K}

$\{v\in\mathbb{R}^k:\|v\|\leq K\}$

ϵ > 0

$\epsilon>0$

δ > 0

$\delta>0$ so dass für und , wenn , dann . Es folgt kontrapositiv, dass Definieren Sie außerdem und unter Verwendung der obigen Einschlüsse haben wir

‖ X_{n} (ω) ‖ \leq K

$\|X_n(\omega)\|\leq K$

‖ X (ω) ‖ \leq K

$\|X(\omega)\|\leq K$

‖ X_{n} (ω) - X (ω) ‖ < δ

$\|X_n(\omega)-X(\omega)\|<\delta$

‖ g (X_{n} (ω)) - g (X (ω)) ‖ < ϵ

$\|g(X_n(\omega))-g(X(\omega))\|<\epsilon$

\begin{aligned} {ω : ‖ g (X_{n} (ω)) - g (X (ω)) ‖ \geq ϵ, ‖ X_{n} (ω) ‖ \leq K, ‖ X (ω) ‖ \leq K} \\ \subset {ω : ‖ X_{n} (ω) - X (ω) ‖ \geq δ, ‖ X_{n} (ω) ‖ \leq K, ‖ X (ω) ‖ \leq K} \\ \subset {ω : ‖ X_{n} (ω) - X (ω) ‖ \geq δ} . \end{aligned}

$\begin{align} &\left\{\omega: \|g(X_n(\omega))-g(X(\omega))\|\geq\epsilon, \|X_n(\omega)\|\leq K, \|X(\omega)\|\leq K \right\} \\ &\qquad\subset\left\{\omega: \|X_n(\omega)-X(\omega)\|\geq\delta, \|X_n(\omega)\|\leq K, \|X(\omega)\|\leq K \right\} \\ &\qquad\subset\left\{\omega: \|X_n(\omega)-X(\omega)\|\geq\delta\right\}. \end{align}$

A_{n} = {ω : ‖ X_{n} (ω) ‖ \leq K} \cap {ω : ‖ X (ω) ‖ \leq K}

$A_n=\{\omega:\|X_n(\omega)\|\leq K\}\cap\{\omega:\|X(\omega)\|\leq K\}$

\begin{aligned} Pr {ω : ‖ g (X_{n} (ω)) - g (X (ω)) ‖ \geq ϵ} & = Pr ({ω : ‖ g (X_{n} (ω)) - g (X (ω)) ‖ \geq ϵ} \cap A_{n}) \\ + Pr ({ω : ‖ g (X_{n} (ω)) - g (X (ω)) ‖ \geq ϵ} \cap A_{n}^{c}) \\ \leq Pr {ω : ‖ X_{n} (ω) - X (ω) ‖ \geq δ} + Pr (A_{n}^{c}) \\ \leq Pr {ω : ‖ X_{n} (ω) - X (ω) ‖ \geq δ} \\ + Pr {ω : ‖ X_{n} (ω) ‖ > K} + Pr {ω : ‖ X (ω) ‖ > K} \\ \leq Pr {ω : ‖ X_{n} (ω) - X (ω) ‖ \geq δ} \\ + 2 Pr {ω : ‖ X (ω) ‖ > K / 2} \\ + Pr {ω : ‖ X_{n} (ω) - X (ω) ‖ > K / 2}, \end{aligned}

$\begin{align} \Pr\!\left\{\omega: \|g(X_n(\omega))-g(X(\omega))\|\geq \epsilon\right\} &= \Pr\!\left(\left\{\omega: \|g(X_n(\omega))-g(X(\omega))\|\geq \epsilon\right\}\cap A_n\right) \\ &+ \Pr\!\left(\left\{\omega: \|g(X_n(\omega))-g(X(\omega))\|\geq \epsilon\right\}\cap A_n^c\right) \\ &\leq \Pr\!\left\{\omega: \|X_n(\omega)-X(\omega)\|\geq\delta \right\} + \Pr(A_n^c) \\ &\leq \Pr\!\left\{\omega: \|X_n(\omega)-X(\omega)\|\geq\delta \right\} \\ &+ \Pr\!\left\{\omega:\|X_n(\omega)\|>K \right\} + \Pr\!\left\{\omega:\|X(\omega)\|>K \right\} \\ &\leq \Pr\!\left\{\omega: \|X_n(\omega)-X(\omega)\|\geq\delta \right\} \\ &+ 2\Pr\!\left\{\omega:\|X(\omega)\|>K/2 \right\} \\ &+ \Pr\!\left\{\omega:\|X_n(\omega)-X(\omega)\|>K/2 \right\}, \end{align}$ \ end {align} für jedes . Da nach Hypothese,

n \geq 1

$n\geq 1$

X_{n} \overset{Pr}{\to} X

$X_n\overset{\Pr}\to X$ , daraus folgt, dass für jedes , und jeder (dies ist ein subtiler und entscheidender logischer Punkt!) . Da wir durch Erhöhen von beliebig klein machen können, gilt die Ungleichung für jedes wenn und nur wenn für jedes , was das ergibt

lim_{n \to \infty} Pr {ω : ‖ g (X_{n} (ω)) - g (X (ω)) ‖ \geq ϵ} \leq 2 Pr {ω : ‖ X (ω) ‖ > K / 2}, (*)

$\lim_{n\to\infty} \Pr\!\left\{\omega: \|g(X_n(\omega))-g(X(\omega))\|\geq \epsilon\right\} \leq 2\Pr\!\left\{\omega:\|X(\omega)\|>K/2 \right\}, \quad (*)$

ϵ > 0

$\epsilon>0$

K > 0

$K>0$

K

$K$

2 Pr {ω : ‖ X (ω) ‖ > K / 2}

$2\Pr\!\left\{\omega:\|X(\omega)\|>K/2 \right\}$

(*)

$(*)$

K > 0

$K>0$

lim_{n \to \infty} Pr {ω : ‖ g (X_{n} (ω)) - g (X (ω)) ‖ \geq ϵ} = 0,

$\lim_{n\to\infty} \Pr\!\left\{\omega: \|g(X_n(\omega))-g(X(\omega))\|\geq \epsilon\right\}=0,$

ϵ > 0

$\epsilon>0$

g (X_{n}) \overset{Pr}{\to} g (X)

$g(X_n)\overset{\Pr}\to g(X)$ .

◻

$\quad\square$

Hinweis. Es ist viel einfacher, diesen Satz mit der Tatsache zu beweisen, dass genau dann, wenn für eine eine so dass fast sicher ist, wenn . $X_n\overset{\Pr}\to X$ $\{n_i\}\subset\mathbb{N}$ $\{n_{i_j}\}\subset\{n_i\}$ $X_{n_{i_j}}\to X$ $j\to\infty$

Zen
quelle