Stochastisch unabhängige Ereignisse

Grundidee und Definition für zwei Ereignisse

Stochastische Unabhängigkeit ist ein grundlegendes Konzept der Wahrscheinlichkeitstorie. Es beschreibt Zufallsereignisse, die sich im wahrscheinlichkeitstheoretischen Sinn nicht gegenseitig beeinflussen: Die Wahrscheinlichkeit, dass ein Ereignis eintritt, ändert sich nicht dadurch, dass ein anderes Ereignis eintritt oder nicht eintritt.

Formal betrachtet man einen Wahrscheinlichkeitsraum (Ω, Σ, P). Dabei ist Ω die Ergebnismenge, Σ die Menge der messbaren Ereignisse und P das Wahrscheinlichkeitsmaß. Für zwei Ereignisse A, B ∈ Σ gilt: A und B heißen stochastisch unabhängig, wenn

P(A ∩ B) = P(A) · P(B).

A ∩ B bedeutet: Beide Ereignisse treten gleichzeitig ein. Die Definition sagt also: Zwei Ereignisse sind genau dann unabhängig, wenn die Wahrscheinlichkeit ihres gemeinsamen Eintretens gleich dem Produkt ihrer Einzelwahrscheinlichkeiten ist.

Wichtige Eigenschaften

Ein Ereignis ist genau dann von sich selbst unabhängig, wenn es mit Wahrscheinlichkeit 0 oder 1 eintritt. Deshalb sind die Grundmenge Ω und die leere Menge ∅ immer von sich selbst unabhängig.

Wenn ein Ereignis A die Wahrscheinlichkeit 0 oder 1 hat, dann ist A von jedem beliebigen Ereignis B unabhängig. Gilt umgekehrt, dass A von jedem beliebigen B unabhängig ist, dann muss P(A) = 0 oder P(A) = 1 gelten.

Unabhängigkeit darf nicht mit Disjunktheit verwechselt werden. Disjunkte Ereignisse können nicht gleichzeitig eintreten, also ist A ∩ B = ∅. Sie sind nur dann unabhängig, wenn eines der Ereignisse die Wahrscheinlichkeit 0 hat, denn dann gilt P(A ∩ B) = P(∅) = 0.

Mit bedingter Wahrscheinlichkeit lässt sich dieselbe Idee anders ausdrücken. Für P(A), P(B) > 0 sind A und B genau dann unabhängig, wenn

P(A|B) = P(A)

oder äquivalent

P(A|B) = P(A|B̄).

P(A|B) bedeutet: die Wahrscheinlichkeit von A unter der Bedingung, dass B eingetreten ist. Diese Formulierung macht die Grundidee besonders deutlich: Ob B eintritt oder nicht, ändert die Wahrscheinlichkeit von A nicht. Da die Rollen von A und B vertauscht werden können, spricht man davon, dass die Ereignisse voneinander unabhängig sind.

Beispiel mit Urnenziehen

Ein typisches Beispiel ist das zweimalige Ziehen aus einer Urne mit vier Kugeln: zwei schwarzen und zwei roten. Es werden die Ereignisse betrachtet:

A = {Die erste Kugel ist schwarz} B = {Die zweite Kugel ist rot}.

Beim Ziehen mit Zurücklegen gilt P(A) = 1/2 und P(B) = 1/2. Außerdem ist

P(A ∩ B) = 1/4 = P(A) · P(B).

Die Ereignisse sind also unabhängig.

Beim Ziehen ohne Zurücklegen bleiben für dieselben Ereignisse zwar P′(A) = 1/2 und P′(B) = 1/2. Die gemeinsame Wahrscheinlichkeit ist aber

P′(A ∩ B) = 1/2 · 2/3 = 1/3 ≠ 1/4 = P′(A) · P′(B).

Die Ereignisse sind dann nicht stochastisch unabhängig. Das Beispiel zeigt: Stochastische Unabhängigkeit ist nicht nur eine Eigenschaft der Ereignisse selbst, sondern hängt auch vom verwendeten Wahrscheinlichkeitsmaß ab.

Mehrere Ereignisse

Für mehr als zwei Ereignisse reicht es nicht immer, nur einzelne Paare zu betrachten. Sei (Ω, Σ, P) ein Wahrscheinlichkeitsraum, I eine nichtleere Indexmenge und (Aᵢ)ᵢ∈I eine Familie von Ereignissen. Diese Familie heißt unabhängig, wenn für jede endliche nichtleere Teilmenge J von I gilt:

P(∩ⱼ∈J Aⱼ) = ∏ⱼ∈J P(Aⱼ).

Für drei Ereignisse A₁, A₂ und A₃ bedeutet das: Sie müssen paarweise unabhängig sein, und zusätzlich muss gelten:

P(A₁ ∩ A₂ ∩ A₃) = P(A₁) · P(A₂) · P(A₃).

Ein Beispiel von Bernstein (1927) zeigt, dass paarweise Unabhängigkeit nicht genügt. In einer Schachtel liegen vier Zettel mit den Zahlenkombinationen 112, 121, 211, 222. Jeder Zettel wird mit Wahrscheinlichkeit 1/4 gezogen. Die Ereignisse sind:

A₁ = {1 an erster Stelle}, P(A₁) = 1/2 A₂ = {1 an zweiter Stelle}, P(A₂) = 1/2 A₃ = {1 an dritter Stelle}, P(A₃) = 1/2.

Alle drei Ereignisse sind paarweise unabhängig, denn jede Schnittmenge zweier dieser Ereignisse hat Wahrscheinlichkeit 1/4 und entspricht damit dem Produkt der Einzelwahrscheinlichkeiten. Gemeinsam sind sie aber nicht unabhängig, weil

P(A₁ ∩ A₂ ∩ A₃) = 0 ≠ 1/8 = P(A₁) · P(A₂) · P(A₃).

Umgekehrt kann man aus der Gleichung für die dreifache Schnittmenge allein nicht schließen, dass die Ereignisse paarweise unabhängig sind. Auch diese Einschränkung wird im Artikel durch ein Beispiel mit Ω = {a,b,c,d,e,f,g,h} und Gleichverteilung gezeigt.

Unabhängigkeit und Kausalität

Stochastische Unabhängigkeit und Kausalität sind verschiedene Konzepte. Stochastische Unabhängigkeit ist eine abstrakte Eigenschaft von Wahrscheinlichkeitsmaßen und Ereignissen. Kausalität beschreibt dagegen einen Ursache-Wirkungs-Zusammenhang. Zwischen beiden besteht nicht automatisch ein Zusammenhang.

Ein wichtiger Unterschied ist die Symmetrie: Stochastische Unabhängigkeit ist immer symmetrisch. Wenn A unabhängig von B ist, ist auch B unabhängig von A. Kausale Unabhängigkeit muss nicht symmetrisch sein.

Beim Werfen von zwei Würfeln sei A das Ereignis, dass der erste Würfel eine gerade Augenzahl zeigt, und B das Ereignis, dass die Summe der Augenzahlen gerade ist. Dann gilt P(A) = P(B) = 1/2 und P(A ∩ B) = 1/4. Die Ereignisse sind stochastisch unabhängig. Trotzdem ist B kausal von A abhängig, weil der erste Würfel die Summe mitbestimmt.

Ein Beispiel für stochastische und kausale Unabhängigkeit ist das Werfen zweier Würfel mit A = {der erste Würfel zeigt eine 6} und B = {der zweite Würfel zeigt eine 6}. Dann gilt P(A) = P(B) = 1/6 und P(A ∩ B) = 1/36; außerdem besteht kein kausaler Zusammenhang zwischen den Würfeln.

Ein Beispiel für stochastische und kausale Abhängigkeit ist der zweimalige Münzwurf mit A = {zweimal Kopf} und B = {der erste Wurf zeigt Zahl}. Es gilt P(A) = 1/4 und P(B) = 1/2, aber P(A ∩ B) = 0, weil die Ereignisse disjunkt sind.

Prüfung und Verallgemeinerungen

Bei korrektem Vorgehen darf man Unabhängigkeit nicht einfach vermuten. Man muss sie mit der Formel P(A ∩ B) = P(A) · P(B) überprüfen. Oft ist die gemeinsame Wahrscheinlichkeit P(A ∩ B) nicht von Anfang an bekannt.

Bei der statistischen Auswertung erhobener Daten kann man zum Beispiel mit einem χ²-Test prüfen, ob Merkmale stochastisch unabhängig sind.

Wichtige Verallgemeinerungen sind die Unabhängigkeit von Mengensystemen und die daraus folgende stochastische Unabhängigkeit von Zufallsvariablen. Zufallsvariablen sind Größen, deren Werte vom Zufall abhängen. Ihre Unabhängigkeit ist ein zentrales Konzept der Wahrscheinlichkeitstheorie und Voraussetzung für viele weitreichende Sätze. Mit dem bedingten Erwartungswert lassen sich diese Begriffe außerdem zur bedingten Unabhängigkeit erweitern.