Diskrete und stetige Wahrscheinlichkeitsverteilungen

Aus Wikiversity

Einführung[Bearbeiten]

Die Unterscheidung von diskrete und stetigen Wahrscheinlichkeitsverteilungen erfolgt über die Verteilungsfunktion. Der bereits aus der Analysis bekannte Begriff der Stetigkeit wird dabei auf die Verteilungsfunktion angewendet und stetige Wahrscheinlichkeitsverteilung besitzen eine stetige Verteilungsfunktion. Diskrete Verteilungen besitzen anschaulich Verteilungsfunktionen, die rechtsseitig stetige Treppenfunktionen bilden.

Beispiel - stetige Verteilung[Bearbeiten]

Beispiele für Verteilungsfunktionen von Normalverteilungen mit unterschiedlichen Varianzen und Erwartungswerten.

Beispiele für Verteilungsfunktionen
Beispiele für Verteilungsfunktionen

Weder stetig noch diskret[Bearbeiten]

Es gibt (eher unüblich) Wahrscheinlichkeitsverteilungen, die weder diskret noch stetig sind.

Einführendes Beispiel - diskret[Bearbeiten]

Wir betrachten ein Würfelexperiment mit den möglichen Ergebgnissen . Ein Ereignis kann man in Worten z.B. mit Ereignis A "gerade Zahl gewürfelt" oder Ereignis B "Zahl kleiner 5 gewürfelt" beschreiben. Solche Ereignisse sind formal Teilmengen von der Menge aller Ergebnisse also bzw. . Jedem Ereignis wird dann ein Wahrscheinlichkeit bzw. zugeordnet.

Einführendes Beispiel - stetig[Bearbeiten]

Eine Person wirft Dartscheibe und versucht dabei immer das den Mittelpunkt des Kreises (Bulls Eye) zu treffen. Die in Regel unbekannte Trefferverteilung auf der Dartscheibe ist eine stetige Wahrscheinlichkeitsverteilung auf einer Teilmenge .

Diskrete Wahrscheinlichkeitsräume[Bearbeiten]

Eine diskrete (Wahrscheinlichkeits-)verteilung bzw. ein diskretes Wahrscheinlichkeitsmaß ist ein spezielles Wahrscheinlichkeitsmaß in der Stochastik. Im Gegensatz zu den allgemeinen Wahrscheinlichkeitsmaßen sind die diskreten Wahrscheinlichkeitsverteilungen auf einer endlichen bzw. abzählbaren Menge von Ereignissen mit positiver Wahrscheinlichkeit ( für alle ) und definiert (siehe Wikipedia: Ereignis (Wahrscheinlichkeitstheorie)).

Weder stetig noch diskret - Summe der Wahrscheinlichkeiten von Einpunktmenge[Bearbeiten]

Wahrscheinlichkeitsverteilungen, die weder diskret noch stetig sind, kann man bei abzählbarem Träger an der Summe der Wahrscheinlichkeiten von Einpunktmengen ablesen. Mit Menge von Ereignissen mit positiver Wahrscheinlichkeit ( wäre ein Verteilung, die weder diskret noch stetig ist.

Allgemeine Wahrscheinlichkeitsräume[Bearbeiten]

Im Gegensatz zu endlichen bzw. abzählbaren Trägermengen sind überabzählbare Grundmengen problematisch, um jeder Teilmenge von (Ereignissen) eine Wahrscheinlichkeit zuzuordnen. Z.B. auf dem Intervall der reellen Zahlen treten Paradoxien auf. Der Satz von Vitali zeigt, dass die Potenzmenge von nicht geeignet ist als Definitionsbereich des W'Maßes und man zu einem komplexeren Mengensystem, wie der Borelschen σ-Algebra übergehen muss.

Wahrscheinlichkeitsraum[Bearbeiten]

Sei ein Messraum und eine Abbildung gegeben, die folgende Eigenschaften besitzt:

  • (Positivität) für alle
  • (Normiertheit)
  • (-Additivität) für alle und paarweise disjunkt folgt: .

nennt man dann Wahrscheinlichkeitsmaß auf und Wahrscheinlichkeitsraum.

Bemerkung[Bearbeiten]

Die Einschränkung 'paarweise disjunkt' ist wesentlich. Für die nicht paarweise disjunkte Mengen sieht man an folgenden Beispielen unmittelbar, dass die -Additivität hier nicht gilt:

  • und man erhält .
  • gilt: .

Elementare Eigenschaften von P (1)[Bearbeiten]

Allein aus der obigen Definition heraus leiten wir ab:

  • , denn es folgt für alle : ; die Ausnahme liefert den Widerspruch.
  • für paarweise disjunkte ('Additivität'). Insbesondere: für disjunkte , denn setzte: und beachte 1).

Elementare Eigenschaften von P (2)[Bearbeiten]

  • , denn .
  • für ('Monotonie'), denn (disjunkt), also .
  • Zusätzlich gilt mit .
  • Es gilt außerdem

Allgemein:
Insbesondere:

Elementare Eigenschaften von P (3)[Bearbeiten]

Für einelementige (Elementar-)Ereignisse setzten wir und haben somit:

  • .
  • .
  • für jedes .

Aus Letzerem folgt, dass die Wahrscheinlichkeitsverteilung durch die Werte von eindeutig festgelegt werden kann.

Diskreter W'Raum - Münzwurf[Bearbeiten]

Einfachstes Beispiel einer diskreten Wahrscheinlichkeitsverteilung wäre ein Wurf mit einer möglicherweise gezinkten Münze: Die Wahrscheinlichkeitsverteilung ordnet dem Ereignis "Die Münze zeigt Kopf" eine Zahl zu, die der Wahrscheinlichkeit entspricht, dass die Münze Kopf zeigt. Ebenso ordnet sie dem Ergebnis "Die Münze zeigt Zahl" eine Zahl zu, die der Wahrscheinlichkeit entspricht, dass die Münze Zahl zeigt. Dem intuitiven Verständnis von Wahrscheinlichkeit entsprechend summieren sich diese Zahlen zu eins auf.

Definition: Diskrete W'Verteilung[Bearbeiten]

Eine Wahrscheinlichkeitsverteilung heißt diskrete Wahrscheinlichkeitsverteilung, wenn einer der folgenden drei Fälle gilt:

  • Sie ist auf einer endlichen Menge definiert.
  • Sie ist auf einer abzählbar unendlichen Menge definiert (z.B. den natürlichen Zahlen )
  • Es gibt eine höchstens abzählbar Menge mit

Zufallsvariablen, deren Verteilung eine diskrete Wahrscheinlichkeitsverteilung ist, werden auch als diskrete Zufallsvariablen bezeichnet.

Beispiel: Münzwurf[Bearbeiten]

Beispiel für die Definition auf einer endlichen Menge ist das Eingangs genannte Beispiel mit dem Münzwurf. Dieses wird auf der Menge definiert und ist im fairen Fall gegeben durch

Häufig werden die Seiten der Münze auch kodiert, wie Kopf=1, Zahl=0 oder Kopf=K, Zahl=Z. Die Kodierung ändert dabei nichts an der Eigenschaft der Verteilung, diskret zu sein.

Beispiel: Poisson-Verteilung[Bearbeiten]

Typisches Beispiel einer Wahrscheinlichkeitsverteilung auf einer abzählbar unendlichen Menge, genauer auf ist die Poisson-Verteilung. Sie wird für einen reellen Parameter definiert durch

Die Normiertheit einer Wahrscheinlichkeitsverteilung folgt hier aus der Definition der Exponentialfunktion über die Potenzreihe.

Aufgabe: Würfeln bis zu ersten 6[Bearbeiten]

Welche Wahrscheinlichkeit hat das Ereignis A="Nach dem 5. Wurf eine 6 gewürfelt"? Welchem Fall einer diskreten Wahrscheinlichkeitsverteilung ist diese Beispiel zugeordnet?

Faltung[Bearbeiten]

Beide obigen Beispiele können auch als diskrete Wahrscheinlichkeitsverteilungen auf dem Grundraum aufgefasst werden. Dies ermöglicht beispielsweise das Definieren einer Verteilungsfunktion und erlaubt die Faltung der Wahrscheinlichkeitsverteilungen mit weiteren Wahrscheinlichkeitsverteilungen.

Konstruktion 1 - Wahrscheinlichkeitsfunktionen[Bearbeiten]

Diskrete Wahrscheinlichkeitsverteilungen werden meist mittels Wahrscheinlichkeitsfunktionen definiert. Im Falle des Grundraumes sind dies Funktionen , die jeder natürlichen Zahl eine positive, reelle Zahl zwischen null und eins zuordnen. Alle diese reellen Zahlen müssen sich zu eins aufsummieren. Dann setzt man

Konstruktion 2 - Poisson-Verteilung[Bearbeiten]

Im obigen Beispiel der Poisson-Verteilung wäre zum Beispiel

Dieses Verfahren lässt sich für beliebige diskrete Wahrscheinlichkeitsverteilungen verwenden. Tatsächlich sind die diskreten Wahrscheinlichkeitsverteilungen genau diejenigen Verteilungen, die sich über eine Wahrscheinlichkeitsfunktion definieren lassen. Die Zuordnung diskrete Wahrscheinlichkeitsverteilung – Wahrscheinlichkeitsfunktion ist also bijektiv.

Definition - Wahrscheinlichkeitsfunktion[Bearbeiten]

Eine Abbildung mit der Eigenschaft ('Normierung')

heißt Wahrscheinlichkeitsfunktion (oder diskrete Wahrscheinlichkeitsdichte oder Zähldichte). Jede Wahrscheinlichkeitsfunktion legt eine Wahrscheinlichkeitsverteilung eindeutig fest (-Additivität von folgt dann aus dem "Umordnungssatz" für absolut konvergente Reihen). Meistens gibt man eine Wahrscheinlichkeitsverteilung durch eine Wahrscheinlichkeitsfunktion an.

Verteilungsfunktionen[Bearbeiten]

In dem folgenden Abschnitt werden Verteilungsfunktionen behandelt. Die Begriffsdefinition ist notwendig, um stetige Wahrscheinlichkeitsverteilungen zu definieren. Unterschieden werden dabei

  • der eindimensionale Fall und
  • der mehrdimensionale Fall .

Verteilungsfunktion - eindimensional[Bearbeiten]

Bei reellwertigen Zufallsgrößen wird die Verteilungsfunktion über die induzierte Verteilung auf über angegeben.


Verteilungsfunktion - mehrdimensional[Bearbeiten]

Bei Zufallsgrößen wird die Verteilungsfunktion über die induzierte Verteilung auf über angegeben.

Stetige Wahrscheinlichkeitsverteilungen[Bearbeiten]

Bei stetigen Wahrscheinlichkeitsverteilung ist die Verteilungsfunktions stetig. Daraus ergibt sich insbesondere, dass kEinpunktmengen im Gegensatz zu den diskrete Verteilungen keine Wahrscheinlichkeitsmasse tragen. Es ist wichitg zu bemerken, dass sich der Stetigkeitsbegriff nicht auf die Wahrscheinlichkeitsdichte bezieht. Die Rechteckverteilung ist eine stetige Wahrscheinlichkeitsverteilung, dessen Dichtefunktion nicht stetig ist.

Definition - Stetige Verteilung[Bearbeiten]

Eine Verteilung auf heißt stetig, wenn die zugehörige Verteilungsfunktion stetig ist.

Bemerkung 1 - Stetige Verteilung[Bearbeiten]

Die Definition liefert aber nicht, dass eine unstetige Verteilung eine diskrete Verteilung ist. Diskrete Verteilung sind rechtsseitig stetige monoton steigende Treppenfunktionen.

Bemerkung 2 - Stetige Verteilung[Bearbeiten]

Die Definition liefert ebenfalls nicht, dass eine stetige Verteilungen eine stetige Wahrscheinlichkeitsdichte. Die Rechteckverteilung ist eine stetige Verteilung, aber diese besitzt keine stetige Wahrscheinlichkeitsdichte.

Beispiel - stetige Verteilung[Bearbeiten]

Die folgende Abbildung zeigt verschieden Wahrscheinlichkeitsdichten der Normalverteilung

Wahrscheinlichkeitsdichten der Normalverteilung
Wahrscheinlichkeitsdichten der Normalverteilung

Verteilungsfunktion (1)[Bearbeiten]

Die Abbildung zeigt eine Verteilungsfunktion einer Bernoulli-Verteilung zum Parameter mit charakteristischen Sprungstellen bei 0 und bei 1.

Verteilungsfunktion (2)[Bearbeiten]

Bettet man diskrete Verteilungen auf (oder einer beliebigen höchstens abzählbaren Teilmenge der reellen Zahlen) in die reellen Zahlen ein, so kann der Verteilung eine Verteilungsfunktion zugeordnet werden. Diese zeichnet sich bei diskreten Wahrscheinlichkeitsverteilungen dadurch aus, dass sie stückweise konstant ist. An einer Stelle mit besitzt die Verteilungsfunktion immer einen „Sprung“ nach oben, und das um genau den Wert .


Beispiel - stetige Verteilungsfunktion[Bearbeiten]

Die folgende Abbildung zeigt unterschiedliche Verteilungsfunktionen der Normalverteilung.

Unterschiedliche Verteilungsfunktionen der Normalverteilung
Unterschiedliche Verteilungsfunktionen der Normalverteilung

Wahrscheinlichkeitserzeugende Funktion[Bearbeiten]

Diskreten Wahrscheinlichkeitsverteilungen auf kann zusätzlich zu den klassischen erzeugenden Funktionen (Momenterzeugende Funktion, Kumulantenerzeugende Funktion und Charakteristische Funktion) noch eine wahrscheinlichkeitserzeugende Funktion zugeordnet werden. Dabei handelt es sich um ein Polynom oder um eine Potenzreihe, die jeder Wahrscheinlichkeitsverteilung eindeutig zugeordnet werden kann. Wahrscheinlichkeitserzeugende Funktionen erleichtern beispielsweise das Berechnen der Momente wie Erwartungswert oder Varianz oder liefern einfache Faltungsidentitäten.


Aufgabe - Weder stetig noch diskret[Bearbeiten]

Konstruieren Sie eine Wahrscheinlichkeitsverteilung auf , bei der

  • mit stetiger Gleichverteilung.

Skizzieren Sie die Verteilungsfunktion von !

Spezielle diskrete Wahrscheinlichkeitsverteilungen[Bearbeiten]

Folgend sind einige wichtige diskrete Wahrscheinlichkeitsverteilungen und ihre Konstruktion aufgezählt. Die Einteilung ist dabei nicht zwingend, manche Verteilungen können auch auf mehrere Arten konstruiert werden.

Aus der Bernoulli-Verteilung abgeleitet (1)[Bearbeiten]

Ein Ausgangspunkt der Modellierung ist die Bernoulli-Verteilung. Sie modelliert den Wurf einer Münze, wobei "Kopf" mit 1 codiert wird und "Zahl" mit 0. Die Wahrscheinlichkeit für "Kopf" wird durch eine Zahl gegeben. Somit handelt es sich um eine diskrete Wahrscheinlichkeitsverteilung auf

Aus dieser Verteilung lassen sich direkt ableiten:

Aus der Bernoulli-Verteilung abgeleitet (2)[Bearbeiten]

  • Die Binomialverteilung: Sie gibt die Wahrscheinlichkeit an, bei unabhängigen Würfen mit derselben Münze Erfolge zu erhalten. Ihre multivariate Entsprechung ist die Multinomialverteilung.
  • Die Verallgemeinerte Binomialverteilung: Sie gibt die Wahrscheinlichkeit an, bei unabhängigen Würfen mit unterschiedlichen Münzen Erfolge zu erhalten.
  • Die Geometrische Verteilung: Sie gibt die Wahrscheinlichkeit für die Wartezeit auf den ersten Erfolg beim sukzessiven, unabhängigen Werfen einer Münze an.
  • Die Negative Binomialverteilung: Sie gibt die Wahrscheinlichkeit für die Wartezeit auf den -ten Erfolg beim sukzessiven, unabhängigen Werfen einer Münze an.

Aus der Bernoulli-Verteilung abgeleitet (3)[Bearbeiten]

Dabei werden geometrische und negative Binomialverteilung auch in verschiedenen Varianten definiert.
Weitere ableitbare Wahrscheinlichkeitsverteilungen sind die Beta-Binomialverteilung (die Erfolgswahrscheinlichkeit der Münze selbst wird als Betaverteilt angenommen) sowie die Rademacher-Verteilung und die Zweipunktverteilung (Bernoulli-Verteilungen auf speziellen Werten) und die Dirac-Verteilung (degeneriertet Grenzfall einer Münze, die immer dasselbe Ergebnis zeigt).

Aus dem Urnenmodell abgeleitet (1)[Bearbeiten]

Ein weiterer Ausgangspunkt der Modellierung ist das Urnenmodell, das auf der diskreten Gleichverteilung basiert. Dabei werden insgesamt Kugeln in mehrere Gruppen geteilt (gefärbt, nummeriert, etc.), in eine Urne gelegt. Aus dieser wird dann gezogen, entweder mit zurücklegen oder ohne. Dabei soll (entsprechend der Gleichverteilung) jede Kugel gleich wahrscheinlich sein. So lassen sich beispielsweise konstruieren:

Aus dem Urnenmodell abgeleitet (2)[Bearbeiten]

Gleichverteilung (Definition) (1)[Bearbeiten]

Die Gleichverteilung über einer endlichen Grundmenge wird bestimmt durch die Wahrscheinlichkeitsfunktion

(für alle

Die Wahrscheinlichkeit für ein Ereignis ist dann


Gleichverteilung (Definition) (2)[Bearbeiten]

Die Gleichverteilung wird auch Laplaceverteilung genannt. Ein Zufallsexperiment, dem die Gleichverteilung zugeordnet wird, wird auch Laplaceexperiment genannt.
Interpretation der zweiten Formel: Sei gegeben. Ein Ereignis heißt "günstig" für . Jedes ist "möglich". ist dann die Anzahl der günstigen durch die Anzahl der möglichen Ereignisse.

Gleichverteilung (Beispiel)[Bearbeiten]

Einmal werfen mit einem symmetrischen Würfel. Auf definiert man die Wahrscheinlichkeitsfunktion ("Gleichverteilung" über ).

Ist das Ereignis "ungerade Augenzahl", so gilt .

Einpunktverteilung (Beispiel)[Bearbeiten]

Seien und beliebig. Dann definiert


(für alle , "Einpunktverteilung") die in konzentrierte Wahrscheinlichkeitsverteilung . Es ist

Geometrische Verteilung (Beispiel) (1)[Bearbeiten]

Eine symmetrische Münze wird so oft geworfen, bis zum ersten Mal Kopf auftritt. Der Ergebnisraum besteht aus allen möglichen auftretenden Sequenzen:


(Wir schreiben anstatt .) Es ist . Heuristische Überlegung zur Bestimmung der :

Geometrische Verteilung (Beispiel) (2)[Bearbeiten]

Wir betrachten (k-1-mal Z) als Element der Menge . Es ist . Alle Elemente von sind gleichwahrscheinlich. Es folgt:

('Geometrische Verteilung')

Normierung: . Somit hat man also zu setzen.

Siehe auch[Bearbeiten]

Literatur[Bearbeiten]

  • Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, doi:10.1515/9783110215274
  • Klaus D. Schmidt: Maß und Wahrscheinlichkeit. 2., durchgesehene Auflage. Springer-Verlag, Heidelberg Dordrecht London New York 2011, doi:10.1007/978-3-642-21026-6
  • David Meintrup, Stefan Schäffler: Stochastik. Theorie und Anwendungen. Springer-Verlag, Berlin Heidelberg New York 2005, S. 90, doi:10.1007/b137972

Seiten-Information[Bearbeiten]

Der Foliensatz wurde für den Kurs:Stochastik mit Wiki2Reveal über den Linkgenerator erstellt.