Kerndichteschätzer

Grundidee und Bedeutung

Die Kerndichteschätzung, auch Parzen-Fenster-Methode oder englisch kernel density estimation (KDE), ist ein nichtparametrisches statistisches Verfahren. Sie schätzt aus einer Stichprobe die Dichte und damit die Wahrscheinlichkeitsverteilung einer Zufallsvariablen, ohne vorher eine bestimmte Verteilungsform festzulegen.

Ein einfaches nichtparametrisches Verfahren ist das Histogramm. Dieses ist jedoch nicht stetig. Bei vielen Größen, etwa Wartezeiten in einer Schlange oder Aktienrenditen, wird dagegen eine stetige Dichtefunktion als zugrunde liegend angenommen. Die Kerndichteschätzung liefert hierfür eine stetige Schätzung. Genauer ist ein Kerndichteschätzer ein gleichmäßig konsistenter, stetiger Schätzer der Dichte eines unbekannten Wahrscheinlichkeitsmaßes durch eine Folge von Dichten. Gleichmäßige Konsistenz bedeutet, dass sich die geschätzte Dichte bei wachsendem Stichprobenumfang über ihren gesamten Definitionsbereich der tatsächlichen Dichte annähert.

Aufbau des Schätzers

Gegeben seien die Stichprobenwerte x₁, …, xₙ ∈ ℝ und ein Kern k. Für eine Bandbreite h > 0 wird der Kerndichteschätzer f̃ₙ: ℝ → ℝ₊ definiert durch

f̃ₙ(t) = (1/n) ∑ⱼ₌₁ⁿ kₕ(t − xⱼ) = (1/(nh)) ∑ⱼ₌₁ⁿ k((t − xⱼ)/h).

An jedem Stichprobenwert xⱼ wird also eine skalierte Kopie des Kerns positioniert. Der Schätzer entsteht als Überlagerung beziehungsweise Summe dieser Kerne. Die Skalierung und der Vorfaktor sorgen dafür, dass die Summe wiederum die Dichte eines Wahrscheinlichkeitsmaßes ist.

Die Bandbreite h bestimmt, wie breit die einzelnen Kerne sind und damit, wie stark die Schätzung geglättet wird. Eine zu kleine Bandbreite erzeugt eine stark schwankende, „verwackelte“ Kurve. Eine zu große Bandbreite glättet zu stark, sodass die Schätzung zu „grob“ wird.

Mögliche Kerne

Ein Kern ist die stetige Lebesgue-Dichte k eines fast beliebig wählbaren Wahrscheinlichkeitsmaßes K. Im Artikel werden folgende Kerne genannt:

• Gauß-Kern: k(t) := 1/√(2π) · exp(−t²/2)

• Cauchy-Kern: k(t) := 1/[π(1 + t²)]

• Picard-Kern: k(t) := 1/2 · exp(−|t|)

• Epanechnikov-Kern: k(t) := 3/4 · (1 − t²) für t ∈ [−1; 1] und k(t) := 0 sonst.

Die Kerne besitzen ähnliche grundlegende Formen, unterscheiden sich aber in ihrem genauen Verlauf und teilweise in ihrem Träger, also dem Bereich, in dem sie von null verschieden sind. Der Epanechnikov-Kern hat eine besondere Eigenschaft: Unter allen Kernen minimiert er die mittlere quadratische Abweichung des zugehörigen Kerndichteschätzers.

Konvergenz und Wahl der Bandbreite

Der Satz von Nadaraya beschreibt, unter welchen Voraussetzungen Kerndichteschätzer die unbekannte Dichte immer besser annähern. Sei k ein Kern von beschränkter Variation und f die gleichmäßig stetige Dichte eines Wahrscheinlichkeitsmaßes. Für Konstanten 0 < α < 1/2 und c > 0 werden die vom Stichprobenumfang abhängigen Bandbreiten durch

h(n) = c/nᵅ

definiert. Dann konvergiert die Folge der Kerndichteschätzer f̃ₙ mit Wahrscheinlichkeit 1 gleichmäßig gegen f. Formal gilt:

P(limₙ→∞ supₜ∈ℝ |f̃ₙ(t) − f(t)| = 0) = 1.

Dabei bezeichnet das Supremum den größten Schätzfehler über alle t ∈ ℝ. Die Aussage bedeutet: Bei einer geeigneten Bandbreite kann die unbekannte Dichte durch eine hinreichend große Stichprobe beliebig gut geschätzt werden. Die Bandbreite nimmt dabei mit wachsendem n ab, jedoch nur mit einem Exponenten α zwischen 0 und 1/2.

Beispiel und Anwendungen

In einem Beispiel wird eine Stichprobe vom Umfang 100 aus einer Standardnormalverteilung erzeugt. Deren tatsächliche Dichte ist beim praktischen Schätzen unbekannt und soll durch Kerndichteschätzung rekonstruiert werden. Schätzungen mit verschiedenen Bandbreiten zeigen unmittelbar den Einfluss von h: Kleine Werte führen zu einer unruhigen Kurve, große Werte zu einer übermäßig groben Darstellung.

Ein weiteres dargestelltes Beispiel verwendet eine Stichprobe vom Umfang 10 und den Cauchy-Kern. Die Stichprobenwerte werden als schwarze Kreise gezeigt. Über jedem Wert liegt ein entsprechend verschobener und skalierter Cauchy-Kern; die Summe dieser Kerne ergibt die geschätzte Dichte.

Statistiker verwenden die Kerndichteschätzung seit etwa 1950. In der Ökologie wird sie häufig zur Beschreibung des Aktionsraums eines Tieres eingesetzt, seit die Methode in den 1990er-Jahren in diesen Wissenschaftszweig einzog. Mit ihr lässt sich die Wahrscheinlichkeit berechnen, mit der sich ein Tier in einem bestimmten räumlichen Bereich aufhält. Solche Vorhersagen werden beispielsweise durch farbige Isolinien dargestellt. Auf demselben Prinzip beruht die seit etwa 2010 übliche Heatmap-Darstellung der Aufenthaltsorte von Mannschaftsspielern, etwa im Fußball, während der Spielzeit.