Zentraler Grenzwertsatz

Kernaussage und Voraussetzungen

Der zentrale Grenzwertsatz von Lindeberg-Lévy ist ein bedeutendes Resultat der Wahrscheinlichkeitstheorie. Er erklärt, warum der Mittelwert vieler unabhängiger, gleich verteilter Zufallsvariablen unter bestimmten Voraussetzungen näherungsweise normalverteilt ist. Ursache ist die additive Überlagerung vieler unabhängiger Zufallseinflüsse, sofern deren Varianz endlich ist.

Sei X₁, X₂, X₃, … eine Folge unabhängiger Zufallsvariablen auf demselben Wahrscheinlichkeitsraum, die alle dieselbe Wahrscheinlichkeitsverteilung besitzen. Außerdem sollen der Erwartungswert μ und die Standardabweichung σ > 0 existieren und endlich sein.

Für die n-te Teilsumme gilt Sₙ = X₁ + X₂ + ⋯ + Xₙ.

Wegen der Unabhängigkeit hat Sₙ den Erwartungswert nμ und die Varianz nσ². Durch Zentrierung und Standardisierung erhält man Zₙ = (Sₙ − nμ)/(σ√n) = ((Sₙ/n) − μ)/(σ/√n).

Der zentrale Grenzwertsatz besagt, dass die Verteilungsfunktion von Zₙ für n → ∞ punktweise gegen die Verteilungsfunktion Φ der Standardnormalverteilung 𝒩(0,1) konvergiert. Für jedes reelle z gilt daher limₙ→∞ P(Zₙ ≤ z) = Φ(z).

Da der Stichprobenmittelwert der ersten n Zufallsvariablen X̄ₙ = Sₙ/n = (X₁ + ⋯ + Xₙ)/n ist, kann die Aussage auch so geschrieben werden: limₙ→∞ P(((X̄ₙ − μ)/(σ/√n)) ≤ z) = Φ(z).

Damit wird der standardisierte Stichprobenmittelwert bei wachsendem Stichprobenumfang durch die Standardnormalverteilung beschrieben. Die Aussage ist eine Konvergenz in Verteilung: Nicht die einzelnen Werte müssen gegen einen festen Wert konvergieren, sondern ihre Verteilungen nähern sich der angegebenen Grenzverteilung an.

Folgen und typische Spezialfälle

Für endliche Stichprobenumfänge stellt sich die Frage, wie gut die Normalverteilung die tatsächliche Verteilung bereits approximiert. Unter bestimmten Bedingungen gibt der Satz von Berry-Esseen darüber Auskunft. Existiert das dritte zentrierte Moment E((X₁ − μ)³) und ist es endlich, dann ist die Konvergenz zur Normalverteilung gleichmäßig; ihre Konvergenzgeschwindigkeit ist wenigstens von der Ordnung 1/√n.

Bei unabhängigen normalverteilten Zufallsvariablen ist die Summe für jedes n bereits wieder normalverteilt, weil die Normalverteilung eine alpha-stabile Verteilung ist. In diesem Fall gilt der zentrale Grenzwertsatz im Endlichen: Zₙ ist für jedes n standardnormalverteilt und nicht erst im Grenzfall.

Für unabhängige bernoulli-verteilte Zufallsvariablen ist die Summe binomialverteilt. Der zentrale Grenzwertsatz führt in diesem Fall als Spezialfall zum Satz von Moivre-Laplace. Die Annäherung standardisierter Binomialverteilungen an die Standardnormalverteilung kann dabei sowohl bei symmetrischen als auch bei schiefen Verteilungen betrachtet werden.

Beweise und ihre Grundideen

Ein üblicher Beweis beruht auf allgemeinen Sätzen über charakteristische Funktionen. Eine charakteristische Funktion beschreibt eine Wahrscheinlichkeitsverteilung mithilfe einer Funktion, deren Taylorreihe beziehungsweise Kumulanten untersucht werden kann. Dazu bestimmt man die Momente oder Kumulanten der standardisierten Summen und damit die Koeffizienten der Taylorreihe der charakteristischen Funktion.

Der Satz kann auch elementar, also ohne die charakteristische Funktion als tiefliegendes Hilfsmittel, bewiesen werden. Bei diesem von Jarl Waldemar Lindeberg stammenden Verfahren untersucht man Erwartungswerte der Form E(f(Zₙ)). Wählt man f als Indikatorfunktion 1_[a,b] eines abgeschlossenen Intervalls [a,b], entspricht dieser Erwartungswert der Wahrscheinlichkeit P(a ≤ Zₙ ≤ b). Für genügend glatte Funktionen f lassen sich dieselben Erwartungswerte gut approximieren.

Weitere Möglichkeiten zum Beweis zentraler Grenzwertsätze sind die Methode von Stein und Techniken aus der Fourier-Analysis.

Verallgemeinerungen und unendlichdimensionale Räume

Die Voraussetzung, dass alle Zufallsvariablen identisch verteilt sind, ist bei vielen Verallgemeinerungen nicht notwendig. Stattdessen werden Bedingungen verlangt, die verhindern, dass eine einzelne Variable das Ergebnis zu stark beeinflusst. Zu diesen Kriterien gehören die Lindeberg-Bedingung und die Ljapunow-Bedingung. Verallgemeinerte zentrale Grenzwertsätze können außerdem eine „schwache“ Abhängigkeit der Zufallsvariablen zulassen. Grenzverteilungen müssen dabei nicht immer Normalverteilungen sein; bei Verteilungen ohne endliche Varianz können auch andere α-stabile Verteilungen auftreten.

Der mehrdimensionale zentrale Grenzwertsatz beschreibt die Konvergenz der Verteilungen von Zufallsvektoren gegen die mehrdimensionale Standardnormalverteilung.

Der zentrale Grenzwertsatz von Lindeberg-Feller berücksichtigt gewisse Abhängigkeiten, indem Zufallsvariablen zu Gruppen zusammengefasst werden. Innerhalb der Gruppen wird Unabhängigkeit gefordert; die Folge dieser Gruppen heißt Schema von Zufallsvariablen. Die Lindeberg- und die Ljapunow-Bedingung können auch für solche Schemata formuliert werden und liefern Kriterien für die Konvergenz.

Auf unendlichdimensionale Räume lässt sich der Satz nicht direkt übertragen; die Aussage hängt von der Geometrie des zugrunde liegenden Raumes ab. Für einen Banach-Raum (B, ||·||_B), eine Folge unabhängiger B-wertiger Zufallsvariablen X = (Xᵢ)ᵢ∈ℕ mit gemeinsamer Radon-Verteilung und Zₙ = n⁻¹ᐟ²(X₁ + ⋯ + Xₙ) sei μₙ die Verteilung von Zₙ. Die Folge erfüllt den zentralen Grenzwertsatz, wenn μₙ bezüglich ||·||_B schwach gegen ein Radon-Gauß-Maß konvergiert, sobald n → ∞.

Jørgen Hoffmann-Jørgensen und Gilles Pisier zeigten 1976: Wenn E[Xᵢ] = 0 und E[||Xᵢ||_B²] < ∞ für alle i ∈ ℕ gelten und B vom Typ 2 ist, dann erfüllt X den zentralen Grenzwertsatz. Für Räume vom Typ 2 − ε mit ε > 0 gilt der Satz allgemein nicht.