Gesetz der großen Zahlen einfach erklärt

Wirfst du eine faire Münze, hat „Kopf“ die Wahrscheinlichkeit P(\text{Kopf})=0{,}5. Das ist ein theoretischer Wert. Was wirklich passiert, zählst du in einer Versuchsreihe: Die absolute Häufigkeit ist die Zahl der Treffer, die relative Häufigkeit ist ihr Anteil an allen Versuchen. Nach wenigen Würfen kann der beobachtete Anteil deutlich von 0,5 abweichen.

Bei unabhängigen Wiederholungen unter gleichen Bedingungen werden große Abweichungen zwischen h_n(A) und P(A) mit wachsendem n immer unwahrscheinlicher. Die relative Häufigkeit stabilisiert sich nahe der Wahrscheinlichkeit. Ein fairer Würfel zeigt eine Sechs mit Wahrscheinlichkeit \frac{1}{6}\approx0{,}167. In kurzen Serien schwankt der Anteil der Sechsen stark, in langen liegt er meist näher bei \frac{1}{6}. „Annäherung“ heißt aber nicht, dass es mit jedem Wurf besser wird: Die Abweichung kann zwischendurch wieder wachsen. Wichtig sind auch die Grenzen: Die Versuche müssen zum Modell passen, also unabhängig sein und dieselbe Wahrscheinlichkeit haben. Eine große Stichprobe beseitigt keine systematischen Messfehler, und eine verzerrte Auswahl wird durch ihre Größe nicht repräsentativ. Das Gesetz sagt auch nicht voraus, welches Einzelergebnis als Nächstes kommt.

Viele glauben, nach vielen Kopfwürfen müsse bald Zahl kommen. Das stimmt nicht: Bei unabhängigen Würfen verändert die bisherige Folge die Wahrscheinlichkeit des nächsten Wurfs nicht. Selbst nach zehnmal Kopf bleibt bei einer fairen Münze P(\text{Kopf})=P(\text{Zahl})=0{,}5. Die frühen Ergebnisse werden nicht ausgeglichen, sondern von den vielen späteren Würfen „verdünnt“. Die absolute Differenz kann deshalb wachsen, während die relative Abweichung kleiner wird.

Zur Vertiefung: Bei n unabhängigen Versuchen mit Trefferwahrscheinlichkeit p ist die Trefferzahl X_n binomialverteilt, X_n\sim\operatorname{Bin}(n,p), mit E(X_n)=np und \operatorname{Var}(X_n)=np(1-p). Für die relative Häufigkeit R_n=\frac{X_n}{n} folgt E(R_n)=p und \operatorname{Var}(R_n)=\frac{p(1-p)}{n}. Die Varianz misst die Streuung. Wächst n, geht sie gegen null: Die Werte von R_n drängen sich um p. Mit der Tschebyscheffschen Ungleichung gilt für jede Toleranz \varepsilon>0: P(|R_n-p|\geq\varepsilon)\leq\frac{p(1-p)}{n\varepsilon^2} Die rechte Seite geht für n\to\infty gegen null. Das ist die Kernaussage des schwachen Gesetzes für Bernoulli-Versuche. „Fast sicher“ beim starken Gesetz heißt übrigens nicht „ausnahmslos“: Eine unendliche Folge nur aus Sechsen ist denkbar, hat aber die Wahrscheinlichkeit null.