Kurs:Stochastik/Schwaches Gesetz der großen Zahlen

Einführung

In dieser Lerneinheit werden schwache Gesetze der großen Zahlen behandelt. Diese spielen in der Statistik eine besondere Rolle, wenn durch Versuchswiederholungen eine unbekannte Wahrscheinlichkeit geschätzt werden soll.

Schwaches Gesetz der großen Zahlen - Bernoulli

Seien $X_{k}$ für alle $k\in \mathbb {N}$ Bernoulli-verteilte, stochastisch unabhängige Zufallsgrößen mit der Trefferwahrscheinlichkeit $p$ und $R_{n}={\tfrac {1}{n}}\sum _{k=1}^{n}X_{k}$ die relative Häufigkeit nach der $n$-ten Versuchswiederholung. Dann konvergiert $R_{n}$ nach Wahrscheinlichkeit gegen $p\in (0,1)$. Formal:

$\displaystyle \lim _{n\to \infty }\operatorname {P} \left(|R_{n}-p|\geq \varepsilon \right)=0$

Bemerkung - Konvergenz nach Wahrscheinlichkeit

Der folgende Ausdruck bedeutet, dass die Wahrscheinlichkeit von Ausreißern der relativen Häufigkeit $p$ von mindesten mehr als $\varepsilon$ von der theoretischen Wahrscheinlichkeit des Bernoulli-Experiments $p$ mit steigender Anzahl der Versuchswiederholungen $n$ gegen 0 geht.

$\displaystyle \lim _{n\to \infty }\operatorname {P} \left(|R_{n}-p|\geq \varepsilon \right)=0$

Schätzer für unbekannte Trefferwahrscheinlichkeiten

Diese Aussage liefert damit als Ergebnis, dass man mit einer möglichst großen Anzahl der Versuchswiederholung eine unbekannte Trefferwahrscheinlichkeiten immer besser schätzen kann. Da die Versuchswiederholungen auf zufälligen Experimenten beruhen, ist dies allerdings eine schwächere Aussage als die deterministische Konvergenz eines Terms gegen einen Grenzwert, den Sie aus der Analysis kennen.

Beweisidee - Schwaches GGZ nach Bernoulli

Das schwache Gesetz der großen Zahlen wird im Wesentlicher durch die Anwendung der Tschebyscheff-Ungleichung gezeigt. Dabei wird

• die Linearität des Erwartungswertes $E(X)$ verwendet und
• durch die stochastische Unabhängigkeit der Versuchwiederholungen $X_{k}$ entfallen die Kovarianzen bei der Berechnung der Varianz von $\operatorname {Var} (X_{1}+\ldots +X_{n})$

Beweis - Schwaches GGZ nach Bernoulli

Für die Anwendung der Tschebyscheff-Ungleichung muss man zunächst den Erwartungswert und die Varianz von der relativen Häufigkeit $R_{n}$ berechnen.

Beweisschritt 1

Die Linearität des Erwartungswertes liefert den Erwartungswert der relativen Häufigkeit $R_{n}$ wie folgt: ${\begin{array}{rcl}\operatorname {E} (R_{n})&=&\operatorname {E} \left({\tfrac {1}{n}}\cdot (X_{1}+\ldots +X_{n})\right)\\&=&{\tfrac {1}{n}}\cdot \operatorname {E} \left(X_{1}+\ldots +X_{n}\right)\\&=&{\tfrac {1}{n}}\cdot {\big (}\operatorname {E} (X_{1})+\ldots +\operatorname {E} (X_{n}){\big )}={\tfrac {1}{n}}\cdot (n\cdot p)=p\end{array}}$

Beweisschritt 2

Für die Berechnung der Varianz liefert die stochastische Unabhängigkeit der Zufallsgrößen $X_{1},\ldots ,X_{n}$ die paarweise Unkorrelliertheit und damit die Varianz der relativen Häufigkeit $R_{n}$ wie folgt:

${\begin{array}{rcl}\operatorname {Var} (R_{n})&=&\operatorname {Var} \left({\tfrac {1}{n}}\cdot (X_{1}+\ldots +X_{n})\right)\\&=&{\tfrac {1}{n^{2}}}\cdot \operatorname {Var} \left(X_{1}+\ldots +X_{n}\right)\\&=&{\tfrac {1}{n^{2}}}\cdot {\bigg (}\underbrace {\operatorname {Var} (X_{1})} _{=p\cdot (1-p)}+\ldots +\underbrace {\operatorname {Var} (X_{n})} _{=p\cdot (1-p)}{\bigg )}\\&=&{\tfrac {n\cdot p\cdot (1-p)}{n^{2}}}={\tfrac {p\cdot (1-p)}{n}}\end{array}}$

Beweisschritt 3 - Anwendung Tschebyscheff-UG

Mit den obigen Berechnungen zur relativen Häufigkeit kann man nun die Varianz und den Erwartungswert in die Tschebyscheff-Ungleichung einsetzen und man erhält mit $\operatorname {E} (R_{n})=p$ und $\sigma ^{2}=\operatorname {Var} (R_{n})={\tfrac {p(1-p)}{n}}$ die Aussage:

$\operatorname {P} \left(|{R_{n}}-p|\geq \varepsilon \right)\leq {\frac {\sigma ^{2}}{\varepsilon ^{2}}}={\frac {p(1-p)}{n\cdot \varepsilon ^{2}}}$

für alle $\varepsilon >0$.

Beweisschritt 4 - Grenzwertübergang

Lässt man die Anzahl der Versuchswiederholungen $n\in \mathbb {n}$ gegen unendlich laufen, erhält man das schwache GGZ nach Bernoulli:

$\displaystyle \lim _{n\to \infty }\operatorname {P} \left(|{R_{n}}-p|>\varepsilon \right)=0$

für alle $\varepsilon >0$.

q.e.d.

Schwaches Gesetz der großen Zahlen

Man sagt, eine Folge von Zufallsvariablen $X_{1},X_{2},X_{3},\dotsc$ in mit $E(|X_{i}|)<\infty$ genüge dem schwachen Gesetz der großen Zahlen, wenn für

${\overline {X}}_{n}={\tfrac {1}{n}}\textstyle \sum \limits _{i=1}^{n}(X_{i}-E({X}_{i}))$

für alle positiven Zahlen $\varepsilon$ gilt:

$\lim _{n\rightarrow \infty }\operatorname {P} \left(\left|{\overline {X}}_{n}\right|>\varepsilon \right)=0\,,$

also wenn die arithmetischen Mittel der zentrierten Zufallsvariablen $X_{i}-E(X_{i})$ in Wahrscheinlichkeit gegen $0$ konvergieren.

Bemerkung - Schwaches Gesetz der großen Zahlen

Es gibt verschiedene Voraussetzungen, unter denen das schwache Gesetz der großen Zahlen gilt. Dabei werden teils Forderungen an die Momente oder an die Unabhängigkeit gestellt. Bedeutsame Voraussetzungen sind:

• Sind $X_{i}$ paarweise unabhängige Zufallsvariablen, die identisch verteilt sind und deren Erwartungswert existiert, dann gilt das schwache Gesetz der großen Zahlen.
• Sind $X_{i}$ paarweise unkorrelierte Zufallsvariablen und ist die Folge ihrer Varianzen beschränkt, so gilt das schwache Gesetz der großen Zahlen.

Insbesondere lässt sich in der zweiten Aussage die Forderung der Beschränktheit der Varianzen etwas allgemeiner fassen.

Siehe auch

• Gesetze der großen Zahlen
• Kurs:Stochastik

Seiteninformation

Diese Lernresource können Sie als Wiki2Reveal-Foliensatz darstellen.

Wiki2Reveal

Dieser Wiki2Reveal Foliensatz wurde für den Lerneinheit Kurs:Stochastik' erstellt der Link für die Wiki2Reveal-Folien wurde mit dem Wiki2Reveal-Linkgenerator erstellt.

• Die Seite wurde als Dokumententyp PanDocElectron-SLIDE erstellt.
• Link zur Quelle in Wikiversity: https://de.wikiversity.org/wiki/Kurs:Stochastik/Schwaches%20Gesetz%20der%20gro%C3%9Fen%20Zahlen
• siehe auch weitere Informationen zu Wiki2Reveal und unter Wiki2Reveal-Linkgenerator.