Kurs:Stochastik/fast sichere Konvergenz

Einführung

Die fast sichere Konvergenz, auch P-fast sichere Konvergenz oder fast sichere punktweise Konvergenz ist ein Begriff aus der Wahrscheinlichkeitstheorie, einem Teilgebiet der Mathematik. Die fast sichere Konvergenz ist neben der Konvergenz im p-ten Mittel, der stochastischen Konvergenz und der Konvergenz in Verteilung einer der vier wichtigsten Konvergenzbegriffe für Folgen von Zufallsvariablen und ist das wahrscheinlichkeitstheoretische Pendant zur Konvergenz fast überall der Maßtheorie. Die fast sichere Konvergenz findet beispielsweise Verwendung bei der Formulierung des starken Gesetzes der großen Zahlen.

Definition und Räume

Definition - reelle Zahlen

Sei $(\Omega ,{\mathcal {S}},P)$ ein Wahrscheinlichkeitsraum und $(\mathbb {R} ,|\cdot |)$ die Menge der reellen Zahl mit dem Betrag die Norm versehen mit der Borelschen σ-Algebra ${\mathcal {B}}(\mathbb {R} )$ sowie $X_{o},X_{n}$ für alle $n\in \mathbb {N}$ Zufallsvariablen von $(\Omega ,{\mathcal {S}})$ nach $(\mathbb {R} ,{\mathcal {B}}(\mathbb {R} ))$ . Die Folge von Zufallsvariablen $(X_{n})_{n\in \mathbb {N} }$ konvergiert P-fast sicher gegen $X_{o}$ , wenn eine Menge $N\in {\mathcal {S}}$ existiert (d.h. $P(N)=0$ ) mit:

\lim _{n\to \infty }X_{n}(\omega )=X_{o}(\omega )

für alle $\omega \in \Omega \setminus N$ . Aus der deterministischen Konvergenz folgt die $P$ -fast sicher Konvergenz, indem man $N=\emptyset$ setzt.

Konvergenz von Funktionenfolgen

Aus der Analysis kennt man die punktweise Konvergenz von Funktionenfolgen. Diese übertragen auf Folgen von Zufallsgrößen bedeutet:

\lim _{n\to \infty }X_{n}(\omega )=X_{o}(\omega )

für alle $\omega \in \Omega$ .

Formulierung über Normen

Die obige Formulierung der $P$ -fast sicheren Konvergenz kann man auch über Beträge und Normen auf dem $\mathbb {R} ^{k}$ mit einer Nullmenge $N\in {\mathcal {S}}$ formulieren:

\lim _{n\to \infty }\|X_{n}(\omega )-X_{o}(\omega )\|\ \ 0

für alle $\omega \in \Omega \setminus N$ .

Bemerkung - Norm zu Metrik

Der $\mathbb {R} ^{k}$ ist mit ${\mathcal {B}}(\mathbb {R^{k}} )$ ein separabler metrischer Raum mit der Metrik

d(v,w):=\|v-w\|

Dies ermöglicht eine weitere Verallgemeinerung der $P$ -fast sicheren Konvergenz auf separable metrische Räume.

Separable metrische Räume

Sei $(\Omega ,{\mathcal {S}},P)$ ein Wahrscheinlichkeitsraum und $(M,d)$ ein separabler, metrischer Raum versehen mit der Borelschen σ-Algebra ${\mathcal {B}}(M)$ sowie $X_{o},X_{n}$ für alle $n\in \mathbb {N}$ Zufallsvariablen von $(\Omega ,{\mathcal {S}})$ nach $(M,{\mathcal {B}}(M))$ . Die Folge von Zufallsvariablen $(X_{n})_{n\in \mathbb {N} }$ konvergiert dann fast sicher oder P-fast sicher gegen $X_{o}$ , wenn eine Menge $N\in {\mathcal {S}}$ existiert mit $P(N)=0$ und

\lim _{n\to \infty }d(X_{n}(\omega ),X_{o}(\omega ))=0

für alle $\omega \in \Omega \setminus N$ .

Notation

Man schreibt dann auch $X_{n}{\xrightarrow[{P}]{f.s.}}X_{o}$ , $X_{n}{\xrightarrow[{}]{P{\text{-f.s.}}}}X_{o}$ oder $X_{n}\rightarrow X_{o}\;P$ -f.s. Die Ergänzung von $P$ in der Notation der Konvergenzaussage ist sinnvoll, da die Nullmenge $N$ von der Definition des Wahrscheinlichkeitsmaßes $P:{\mathcal {S}}\to [0,1]$ abhängig ist.

Für reelle Zufallsvariablen

Alternativ findet sich für reelle Zufallsvariablen auch die Formulierung, dass die Zufallsvariablen genau dann fast sicher konvergieren, wenn

P\left(\{\omega \in \Omega \ \colon \ \lim _{n\to \infty }X_{n}(\omega )=X_{o}(\omega )\}\right)=1

ist.

Beispiele

Betrachte als Beispiel die Grundmenge der reellen Zahlen im Intervall von 0 bis 1, also $\Omega =[0,1]$ , versehen mit der Borelschen σ-Algebra ${\mathcal {B}}([0,1])$ . Das Wahrscheinlichkeitsmaß $P$ sei das Diracmaß auf der 1, also

\delta _{1}(A):={\begin{cases}1\ ,&{\text{falls }}1\in A\ ,\\0\ ,&\mathrm {sonst} \ .\end{cases}}

für $A\in {\mathcal {B}}([0,1])$ . Gegeben seien zwei Zufallsvariablen von $([0,1],{\mathcal {B}}([0,1]),\delta _{1})$ nach $([0,1],{\mathcal {B}}([0,1]))$ definiert durch

X(\omega ):={\begin{cases}1&{\text{falls }}\omega =1\\0&{\text{sonst}}\end{cases}}

.

und

Y(\omega ):=0{\text{ für alle }}\omega \in [0,1]

Eine Folge von Zufallsvariablen sei definiert durch

X_{n}(\omega ):=\left(1-{\tfrac {1}{n}}\right)\chi _{[0,1)}(\omega )

.

Dabei bezeichnet $\chi$ die charakteristische Funktion. Die Folge von Zufallsvariablen $(X_{n})_{n\in N}$ konvergiert für $n$ gegen unendlich für jedes $\omega \in [0,1)$ gegen 1 und für $\omega =1$ gegen 0. Demnach ist

\{\omega \in \Omega |\lim _{n\to \infty }X_{n}(\omega )=X(\omega )\}=\emptyset

,

daher konvergieren die $X_{n}$ nicht fast sicher gegen $X(\omega )$ , da für jedes Wahrscheinlichkeitsmaß $P(\emptyset )=0$ gilt. Es ist aber

\{\omega \in \Omega \colon \lim _{n\to \infty }X_{n}(\omega )=Y(\omega )\}=\{1\}

Da aber $\delta _{1}(\{1\})=1$ ist, konvergieren die $X_{n}$ fast sicher gegen $Y$ , obwohl die punktweise Konvergenz nur in einem einzigen Punkt stattfindet. Dieser wird aber durch das Diracmaß maximal gewichtet.

Eigenschaften

Die fast sichere Konvergenz der Folge $(X_{n})_{n\in \mathbb {N} }$ ist äquivalent dazu, dass

P\left(\bigcup _{m=n}^{\infty }\left\{\omega \in \Omega \,:\,\vert X_{m}-X_{o}\vert \geq \epsilon \right\}\right){\xrightarrow[{}]{n\to \infty }}0

gilt. Mit der Bonferroni-Ungleichung erhält man dann das folgende hinreichende Kriterium für die fast sichere Konvergenz:

\sum _{m=1}^{\infty }P(|X_{m}-X_{o}|\geq \epsilon )\quad <\infty

für alle $\epsilon >0$ . Die Terme der Form $P(|X_{m}-X_{o}|\geq \epsilon )$ können dann beispielsweise mit der Markow-Ungleichung abgeschätzt werden.

Beziehung zu anderen Konvergenzarten der Stochastik

Allgemein gelten für die Konvergenzbegriffe der Wahrscheinlichkeitstheorie die Implikationen

{\begin{matrix}{\text{Fast sichere}}\\{\text{Konvergenz}}\end{matrix}}\implies {\begin{matrix}{\text{Konvergenz in}}\\{\text{Wahrscheinlichkeit}}\end{matrix}}\implies {\begin{matrix}{\text{Konvergenz in}}\\{\text{Verteilung}}\end{matrix}}

und

{\begin{matrix}{\text{Konvergenz im}}\\{\text{p-ten Mittel}}\end{matrix}}\implies {\begin{matrix}{\text{Konvergenz in}}\\{\text{Wahrscheinlichkeit}}\end{matrix}}\implies {\begin{matrix}{\text{Konvergenz in}}\\{\text{Verteilung}}\end{matrix}}

.

Die Fast sichere Konvergenz ist also einer der starken Konvergenzbegriffe der Wahrscheinlichkeitstheorie. In den unten stehenden Abschnitten sind die Beziehungen zu den andere Konvergenzarten genauer ausgeführt.

Konvergenz in Wahrscheinlichkeit

Aus der fast sicheren Konvergenz folgt die Konvergenz in Wahrscheinlichkeit. Um dies zu sehen, definiert man die Mengen

B_{N}:=\{\omega \in \Omega \colon \vert X_{n}-X\vert <\epsilon \quad \forall n\geq N\}{\text{ und }}B:=\bigcup _{i=1}^{\infty }B_{i}

.

Die $B_{N}$ bilden eine monoton wachsende Mengenfolge, und die Menge $B$ enthält die Menge

A:=\{\omega \in \Omega \colon \lim _{n\to \infty }X_{n}=X\}

der Elemente, auf denen die Folge punktweise konvergiert. Nach Voraussetzung ist $P(A)=1$ und damit auch $P(B)=1$ und demnach $\lim _{N\to \infty }P(B_{N})=1$ . Durch Komplementbildung folgt dann die Aussage.

Die Umkehrung gilt aber im Allgemeinen nicht. Ein Beispiel hierfür ist die Folge von unabhängigen Bernoulli-verteilten Zufallsvariablen zum Parameter ${\tfrac {1}{n}}$ , also $X_{n}\sim \operatorname {Ber} _{\frac {1}{n}}$ . Dann ist

\lim _{n\to \infty }P(|X_{n}|\geq \epsilon )=0

für alle $\epsilon >0$ und somit konvergiert die Folge in Wahrscheinlichkeit gegen 0. Die Folge konvergiert aber nicht fast sicher, man zeigt dies mit dem hinreichenden Kriterium für fast sichere Konvergenz und dem Borel-Cantelli-Lemma.

Bedingungen, unter denen aus der Konvergenz in Wahrscheinlichkeit die fast sichere Konvergenz folgt sind:

Die Konvergenzgeschwindigkeit der Konvergenz in Wahrscheinlichkeit ist ausreichend schnell, sprich es gilt

\sum _{i=1}^{\infty }P(\vert X_{i}-X\vert \geq \epsilon )<\infty

.

Der Grundraum $\Omega$ lässt sich als abzählbare Vereinigung von μ-Atomen darstellen. Dies ist bei Wahrscheinlichkeitsräumen mit höchstens abzählbarer Grundmenge immer möglich.
Ist die Folge der Zufallsvariablen fast sicher streng monoton fallend und konvergiert in Wahrscheinlichkeit gegen 0, so konvergiert die Folge fast sicher gegen 0.

Allgemeiner besitzt jede in Wahrscheinlichkeit konvergierende Folge eine Teilfolge, die fast sicher konvergiert.

Konvergenz in Verteilung

Die Skorochod-Darstellung trifft eine Aussage darüber, unter welchen Bedingungen aus der Konvergenz in Verteilung auf die fast sichere Konvergenz geschlossen werden kann.

Konvergenz im p-ten Mittel

Im Allgemeinen folgt aus der Konvergenz im p-ten Mittel nicht die fast sichere Konvergenz. Betrachtet man beispielsweise eine Folge von Zufallsvariablen mit

P(X_{n}=0)=1-P(X_{n}=1)=1-{\tfrac {1}{n}}

,

so ist für alle $p>0$

\operatorname {E} (|X_{n}|^{p})=P(X_{n}=1)={\tfrac {1}{n}}

,

was gegen null konvergiert. Somit konvergieren die Zufallsvariablen im $p$ -ten Mittel gegen 0. Jedoch kann die Abhängigkeits-Struktur der $X_{n}$ untereinander (das heißt das Zusammenspiel der Träger der $X_{n}$ in $\Omega$ ) so gestaltet sein, dass die $X_{n}$ nicht fast sicher konvergieren. Ein ähnliches aber detaillierteres und konkreteres Beispiel ist im Artikel Konvergenz (Stochastik) zu finden.

Konvergiert allerdings eine Folge von Zufallsvariablen $(X_{n})_{n\in \mathbb {N} }$ im p-ten Mittel gegen $X$ und gilt

\sum _{n=1}^{\infty }\operatorname {E} (|X_{n}-X|^{p})<\infty

,

dann konvergiert die Folge auch fast sicher gegen $X$ . Die Konvergenz muss also „schnell genug“ sein. (Alternativ kann man auch nutzen, dass bei Gültigkeit des Konvergenzsatz von Vitali die Konvergenz nach Wahrscheinlichkeit und die fast sichere Konvergenz zusammenfallen. Sind somit die Voraussetzungen dieses Satzes erfüllt, so folgt aus Konvergenz im $p$ -ten Mittel die fast sichere Konvergenz, da aus der Konvergenz im $p$ -ten Mittel automatisch die Konvergenz in Wahrscheinlichkeit folgt.)

Umgekehrt folgt aus der fast sicheren Konvergenz auch nicht die Konvergenz im $p$ -ten Mittel. Betrachtet man beispielsweise auf dem Wahrscheinlichkeitsraum $([0,1],{\mathcal {B}}([0,1]),{\mathcal {U}}_{[0,1]})$ die Zufallsvariablen

X_{n}(\omega )=n^{2}\cdot \mathbf {1} _{\left[0,{\tfrac {1}{n}}\right]}(\omega )

,

so konvergiert diese für $\omega \in (0,1]$ punktweise gegen 0 und damit auf ganz $[0,1]$ fast sicher gegen 0 ( ${\mathcal {U}}_{[0,1]}$ bezeichnet hier die Gleichverteilung auf $[0,1]$ ).

Es ist aber $\operatorname {E} (|X_{n}|^{p})=n^{2p-1}$ und die Folge ist demnach unbeschränkt für alle $p\geq 1$ , kann also nicht konvergieren.

Allerdings liefert der Satz von der majorisierten Konvergenz ein Kriterium, unter dem diese Folgerung korrekt ist. Konvergieren die $X_{n}$ fast sicher und existiert eine Zufallsvariable $Y$ mit $\operatorname {E} (\vert Y\vert ^{p})<\infty$ und ist $X_{n}\leq Y$ fast sicher, so konvergieren die $X_{n}$ im $p$ -ten Mittel gegen $X$ und auch für $X$ gilt $\operatorname {E} (\vert X\vert ^{p})<\infty$ .