In der Wahrscheinlichkeitstheorie interessiert man sich häufig für asymptotische Aussagen. Dass bei einem einzelnen Münzwurf Kopf und Zahl gleichwahrscheinlich ist, ist eine plausible Definition, aber selbst noch nicht sehr aussagestark. Eine gehaltvolle Aussage wird erst dann daraus, wenn man zeigen kann, dass bei einer häufigen Wiederholung des Experimentes die relative Häufigkeit, wie oft Kopf fällt, sich in der Nähe von befindet, wenn die Anzahl der Wiederholungen bezeichnet. In diesem Kontext ist es zunächst wichtig, sich klar zu machen, was eine sinnvolle Formulierung sein könnte und wie hier „in der Nähe von“ zu verstehen ist. Insbesondere muss man sich klar machen, was zu viel erwartet wäre. Beispielsweise ist die Wahrscheinlichkeit, dass bei einem -fachen Münzwurf
(mit gerade)
genau -oft Kopf fällt, gleich nach
Fakt.
Dies ist wahrscheinlicher als jedes andere Ergebnis für die Anzahl der Kopfwürfe. Wenn aber gegen unendlich strebt, so wird diese Wahrscheinlichkeit beliebig klein, sie konvergiert gegen . Auch wenn man einen gewissen Abstand zu der Mitte fixiert, wie wenn man sagt, dass die Anzahl der Kopfwürfe zwischen
und
liegen soll, so geht die Wahrscheinlichkeit dafür gegen für gegen unendlich. Dies klingt einleuchtend, wenn man ein sehr großes betrachtet. Dass bei einer Million an Münzwürfen die Kopfanzahl im
(relativ gesehen kleinen)
Intervall liegen soll, ist doch nicht zu erwarten. Anders sieht es aus, wenn man „in der Nähe von “ anteilig bzw. prozentual versteht. Wenn man sich Intervalle der Form
anschaut, so sind dies für einige Zehnerpotenzen die Intervalle , , , , und unser stochastisches Gefühl sagt uns, dass die Wahrscheinlichkeiten zunehmend größer werden, dass die Anzahlen der Kopfwürfe in diesen Intervallen liegen. Diese Beobachtung wird durch das Gesetz der großen Zahlen präzisiert. Es gibt eine ganze Reihe von Aussagen unter diesem Namen, wir beschränken uns auf den Fall eines Münzwurfes. Das folgende Lemma beinhaltet die entscheidenden Abschätzungen, um das Gesetz der großen Zahlen für den Münzwurf zu beweisen. Zur Orientierung: Im zuletzt erwähnten Beispiel muss man
nehmen, es ist
und
.
Der Beweis liefert eine Abschätzung nach oben dafür, dass bei einem millionenfachen Münzwurf höchstens -mal Zahl geworfen wird.
mit
.
Sie sind alle und für das maximale , also für , am größten. Da es viele Faktoren gibt, kann man das Produkt unter Verwendung von
Fakt (1),
Fakt (6)
und
Fakt (8)
durch
nach oben abschätzen. Also ist
Dies folgt aus (2), da die Binomialkoeffizienten in diesem Bereich wachsend sind und da es Summanden gibt.
Nach (1) konvergiert gegen . Nach (3) genügt es daher, zu zeigen, dass
gegen konvergiert. Dieser Ausdruck ist aber
(beschränkt durch)
von der Form
Das bedeutet, dass die relative Häufigkeit bei einem -fach wiederholten
Bernoulli-Experiment
zur Wahrscheinlichkeit bei hinreichend groß mit beliebig hoher Wahrscheinlichkeit im Intervall liegt.