Wahrscheinlichkeitsfunktion

Grundidee und Definition

Eine Wahrscheinlichkeitsfunktion, auch Zähldichte genannt, ist eine reellwertige Funktion der Stochastik. Sie dient zur Konstruktion und Untersuchung diskreter Wahrscheinlichkeitsverteilungen. Diskret bedeutet hier, dass die möglichen Werte endlich oder höchstens abzählbar sind. Jeder diskreten Wahrscheinlichkeitsverteilung ist genau eine Wahrscheinlichkeitsfunktion zugeordnet; umgekehrt bestimmt jede Wahrscheinlichkeitsfunktion eindeutig eine diskrete Wahrscheinlichkeitsverteilung.

Für eine diskrete Zufallsvariable X ist die Wahrscheinlichkeitsfunktion f für x ∈ ℝ definiert durch

f(x) = P(X = xᵢ) = pᵢ, wenn x = xᵢ zu den möglichen Werten {x₁, x₂, …, xₖ, …} gehört, und f(x) = 0 sonst.

In vielen Anwendungen liegt der Definitionsbereich in den natürlichen Zahlen. Dann gibt f jeder Zahl die Wahrscheinlichkeit dafür an, dass diese Zahl auftritt. Beim Modell eines fairen Würfels gilt beispielsweise f(1) = … = f(6) = 1/6; für alle anderen Zahlen ist f gleich 0. Aus maßtheoretischer Sicht sind Wahrscheinlichkeitsfunktionen spezielle Dichtefunktionen bezüglich des Zählmaßes und werden allgemeiner auch Gewichtsfunktionen genannt.

Konstruktion und allgemeine Formen

Eine Funktion f auf ℕ₀ ist eine Wahrscheinlichkeitsfunktion, wenn für jedes i gilt: f(i) ∈ [0, 1], und wenn sie normiert ist, also

∑ᵢ∈ℕ₀ f(i) = 1.

Die Funktionswerte sind damit Wahrscheinlichkeiten, deren Summe 1 ergibt. Aus f wird eine eindeutig bestimmte Wahrscheinlichkeitsverteilung erzeugt, indem die Wahrscheinlichkeit eines Ereignisses durch die Summe der zugehörigen Funktionswerte festgelegt wird. Für eine Menge einzelner Werte gilt insbesondere

P({i₁, i₂, …, iₙ}) = ∑ₘ₌₁ⁿ f(iₘ) = ∑ₘ₌₁ⁿ P(X = iₘ).

Dies folgt aus der Sigma-Additivität des Wahrscheinlichkeitsmaßes. Dabei ist zu unterscheiden: Die Wahrscheinlichkeitsfunktion nimmt einzelne natürliche Zahlen als Argumente an, während eine Wahrscheinlichkeitsverteilung Mengen als Argumente besitzt. Das Wahrscheinlichkeitsmaß ist eine Abbildung P: 𝒜 → [0, 1].

Die Definition gilt allgemeiner für jede höchstens abzählbare Menge Ω. Eine Funktion f: Ω → [0, 1] mit ∑ᵢ∈Ω f(i) = 1 definiert durch P({i}) := f(i) eine eindeutig bestimmte Wahrscheinlichkeitsverteilung auf (Ω, 𝒫(Ω)). Umgekehrt erhält man aus einer Verteilung P die Funktion f_P(i) := P({i}); aus einer Zufallsvariablen X mit Werten in Ω die Funktion f_X(i) := P(X = i).

Manche Autoren gehen von einer Folge (pᵢ)ᵢ∈Ω aus, deren Einträge in [0, 1] liegen und deren Summe 1 ist. Eine solche Folge heißt Wahrscheinlichkeitsvektor oder stochastische Folge. Andere bezeichnen bereits diese Folge als Zähldichte.

Typische Wahrscheinlichkeitsfunktionen

Für n ∈ ℕ und p ∈ (0, 1) ist

fₙ,ₚ(k) = (n über k) pᵏ(1 − p)ⁿ⁻ᵏ für k ∈ {0, 1, …, n}, und fₙ,ₚ(k) = 0 sonst.

Die Normiertheit folgt aus dem binomischen Lehrsatz: ∑ₖ₌₀∞ fₙ,ₚ(k) = ∑ₖ₌₀ⁿ (n über k) pᵏ(1 − p)ⁿ⁻ᵏ = ((1 − p) + p)ⁿ = 1. Die dadurch bestimmte Wahrscheinlichkeitsverteilung heißt Binomialverteilung.

Eine weitere klassische Funktion ist

fₚ(k) = p(1 − p)ᵏ für k ∈ {0, 1, 2, …} und p ∈ (0, 1).

Ihre Normiertheit ergibt sich aus der geometrischen Reihe: ∑ₖ₌₀∞ fₚ(k) = p∑ₖ₌₀∞(1 − p)ᵏ = p/[1 − (1 − p)] = 1. Die zugehörige Verteilung heißt Geometrische Verteilung.

Auf einer endlichen Menge Ω ist die diskrete Gleichverteilung durch f(i) = 1/|Ω| für alle i ∈ Ω gegeben. Eine weitere Konstruktion beginnt mit positiven reellen Zahlen (aᵢ)ᵢ∈Ω, deren Summe endlich ist. Setzt man c = ∑ᵢ∈Ω aᵢ, so ist die Folge (aᵢ/c)ᵢ∈Ω eine stochastische Folge und definiert eine Wahrscheinlichkeitsfunktion. Für aₖ = λᵏ/k! gilt ∑ₖ₌₀∞ λᵏ/k! = eˡᵃᵐᵇᵈᵃ. Daher ist c = eˡᵃᵐᵇᵈᵃ und

f(k) = e⁻ˡᵃᵐᵇᵈᵃ λᵏ/k!.

Dies ist die Wahrscheinlichkeitsfunktion der Poisson-Verteilung.

Kennzahlen aus der Funktion

Viele wichtige Kennzahlen diskreter Zufallsvariablen lassen sich direkt aus der Wahrscheinlichkeitsfunktion berechnen.

Für eine Zufallsvariable X mit Werten in ℕ und Wahrscheinlichkeitsfunktion f_X ist der Erwartungswert

E(X) = ∑ₖ₌₀∞ k · f_X(k).

Er existiert immer, kann jedoch auch unendlich sein. Allgemeiner gilt für eine höchstens abzählbare Menge Ω ⊆ ℝ:

E(X) = ∑ₖ∈Ω k · f_X(k),

sofern die Summe existiert.

Ist μ = E(X), so lautet die Varianz

Var(X) = ∑ₖ₌₀∞ (k − μ)² f_X(k).

Nach dem Verschiebungssatz ist dies gleichbedeutend mit

Var(X) = −μ² + ∑ₖ₌₀∞ k² f_X(k).

Für Werte in einer höchstens abzählbaren Menge Ω gilt entsprechend Var(X) = ∑ₖ∈Ω (k − μ)² f_X(k). Diese Aussagen gelten nur, wenn die jeweiligen Summen existieren.

Der Modus oder Modalwert ist ein Wert mit maximaler Wahrscheinlichkeit. Für Werte in ℕ heißt k_mod Modus, wenn f(k − 1) ≤ f(k_mod) ≥ f(k + 1) gilt. Sind die Elemente einer höchstens abzählbaren Menge Ω als … < xₖ₋₁ < xₖ < xₖ₊₁ < … geordnet, ist xₖ ein Modus, wenn f(xₖ₋₁) ≤ f(xₖ) ≥ f(xₖ₊₁) gilt.

Verteilungsfunktion, Faltung und erzeugende Funktion

Die Verteilungsfunktion fasst die Wahrscheinlichkeiten bis zu einem Grenzwert x zusammen. Bei einer Wahrscheinlichkeitsfunktion f auf ℕ lautet sie

F_P(x) = ∑ᵢ₌₀⌊x⌋ f(i).

Dabei ist ⌊x⌋ die Abrundungsfunktion, also die größte ganze Zahl, die kleiner oder gleich x ist. Ist f auf einer höchstens abzählbaren Teilmenge A ⊆ ℝ definiert, gilt allgemeiner

F_P(x) = ∑ᵢ≤x f(i).

Charakteristisch ist, dass die Verteilungsfunktion an der Stelle i um f(i) = P({i}) nach oben springt.

Für Wahrscheinlichkeitsverteilungen mit Wahrscheinlichkeitsfunktionen entspricht die Faltung der Verteilungen der Faltung ihrer Funktionen:

f_{P*Q} = f_P * f_Q.

Sind X und Y stochastisch unabhängige Zufallsvariablen, so gilt für ihre Summe

f_{X+Y} = f_X * f_Y.

Die Wahrscheinlichkeitsfunktion der Summe wird also durch die Faltung der Wahrscheinlichkeitsfunktionen der einzelnen Zufallsvariablen bestimmt.

Auf ℕ gehört zu jeder Wahrscheinlichkeitsverteilung außerdem eine wahrscheinlichkeitserzeugende Funktion. Sie ist ein Polynom oder eine Potenzreihe, deren Koeffizienten die Werte der Wahrscheinlichkeitsfunktion sind:

m_P(t) = ∑ₖ₌₀∞ f_P(k)tᵏ.

Für eine Zufallsvariable wird sie analog definiert. Diese Funktionen erleichtern die Untersuchung und das Rechnen mit Wahrscheinlichkeitsverteilungen. Die wahrscheinlichkeitserzeugende Funktion einer Faltung ist das Produkt der wahrscheinlichkeitserzeugenden Funktionen. Außerdem lassen sich wichtige Kennzahlen wie Erwartungswert und Varianz aus ihren Ableitungen gewinnen.