Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung

Grundidee und Beispiel

Ein Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung ist ein Vertrauensbereich für den unbekannten Parameter p einer Binomialverteilung. Er wird berechnet, nachdem in einer Stichprobe der Größe n genau k Erfolge beobachtet wurden. Die Punktschätzung für p ist die relative Häufigkeit der Erfolge: \hat p=k/n. Ein Konfidenzintervall [p_u,p_o] soll nicht nur einen einzelnen Schätzwert liefern, sondern einen Bereich, der bei wiederholter Anwendung des Verfahrens den wahren Wert p in einem festgelegten Anteil der Fälle enthält.

Als Beispiel nennt der Artikel eine Meinungsumfrage: Um den unbekannten relativen Anteil p einer Partei A in der Wählerschaft zu schätzen, werden n=400 Personen zufällig und unabhängig befragt. Die Anzahl X der Personen, die Partei A wählen wollen, ist dann binomialverteilt mit n=400 und unbekanntem p. Wenn k=20 Befragte Partei A nennen, ist \hat p=20/400=0{,}05. Dies ist eine Punktschätzung.

Da der wahre Wert p kleiner oder größer als 0,05 sein kann, wird ein Konfidenzintervall gesucht. Häufig wird ein Konfidenzniveau \gamma=95\% gewählt. Das bedeutet: Bei Wiederholung des Stichprobenverfahrens enthalten 95 % der berechneten Intervalle den wahren Parameter p. Exakte Konfidenzintervalle verwenden die Binomialverteilung direkt; Näherungsverfahren beruhen meist auf der Approximation der Binomialverteilung durch die Normalverteilung.

Wald-Intervall als einfache Näherung

Das Wald-Intervall, auch Standard-Intervall genannt, ist eine einfache Approximation mithilfe der Normalverteilung. Für eine binomialverteilte Zahl der Erfolge gilt E(X)=pn und \operatorname{Var}(X)=np(1-p). Der Parameter p wird durch \hat p=X/n geschätzt. Der Standardfehler der Schätzung wird näherungsweise berechnet als \operatorname{SE}(\hat p)=\sqrt{\hat p(1-\hat p)/n}.

Damit ergeben sich die Intervallgrenzen p_u=\hat p-c\cdot\sqrt{\hat p(1-\hat p)/n} und p_o=\hat p+c\cdot\sqrt{\hat p(1-\hat p)/n}.

Die Konstante c hängt vom Irrtumsniveau \alpha=1-\gamma ab: c=\Phi^{-1}(1-\alpha/2). Dabei ist \Phi^{-1} die Quantilfunktion der Standardnormalverteilung. Für \alpha=0{,}05, also ein Konfidenzniveau von 95 %, gilt ungefähr c\approx1{,}96.

Der Artikel weist auf wichtige Einschränkungen hin. Die Formel sollte nur verwendet werden, wenn k\geq50 und n-k\geq50 gilt. Außerdem kann die tatsächliche Überdeckungswahrscheinlichkeit, also die Wahrscheinlichkeit, dass das Intervall p wirklich enthält, unter dem geforderten Niveau liegen. Für n=400 und p\in[0{,}125;0{,}875] liegt sie oft unter 0,95. Ein weiterer Nachteil ist, dass das Wald-Intervall bei sehr kleinen Erfolgswahrscheinlichkeiten negative untere Grenzen liefern kann und bei sehr hohen Erfolgswahrscheinlichkeiten obere Grenzen über 1. Solche Werte sind für Wahrscheinlichkeiten empirisch nicht möglich.

Verbesserte Näherungen

Das Agresti-Coull-Intervall verändert die beobachteten Daten rechnerisch, bevor die einfache Normalapproximation angewendet wird. Man setzt \tilde k=k+c^2/2, \tilde n=n+c^2 und \tilde p=\tilde k/\tilde n. Danach verwendet man p_{o,u}=\tilde p\pm c\cdot\sqrt{\tilde p(1-\tilde p)/\tilde n}.

Der Mittelpunkt dieses Intervalls ist identisch mit dem Mittelpunkt des Wilson-Intervalls. Das Agresti-Coull-Intervall ist nie kürzer als ein Wilson-Intervall. Für \gamma=0{,}95 ist c=1{,}96\approx2. Daraus entsteht eine einfache Regel: \tilde k=k+2, \tilde n=n+4 und \tilde p=(k+2)/(n+4).

Das Wilson-Intervall wurde 1927 von Edwin Bidwell Wilson vorgeschlagen. Es ist genauer als die einfache Normalapproximation. Mit demselben c wie beim Wald-Intervall gilt p_{o,u}=\frac{1}{1+c^2/n}\left(\hat p+\frac{c^2}{2n}\pm c\sqrt{\frac{\hat p(1-\hat p)}{n}+\frac{c^2}{4n^2}}\right).

Für große n nähern sich die Grenzen des Wilson-Intervalls den Grenzen des Standard-Intervalls an, weil c^2/(2n) und c^2/(4n^2) gegen Null gehen. Der Artikel nennt außerdem eine umgeformte Formel nach Brown/Cai/DasGupta und erwähnt, dass eine Formel bei Henze zusätzlich eine Stetigkeitskorrektur von +0,5 oder −0,5 auf k verwendet.

Exaktes Verfahren nach Clopper und Pearson

Das Clopper-Pearson-Intervall ist ein exaktes Verfahren von C. Clopper und Egon Pearson aus dem Jahr 1934. Es bestimmt die untere Grenze p_u und die obere Grenze p_o direkt über Wahrscheinlichkeiten der Binomialverteilung. Im Artikel wird ein Konfidenzniveau von 95 % betrachtet.

Die obere Grenze wird aus P(X\leq k;p_o)=0{,}025 bestimmt. Die untere Grenze wird aus P(X\geq k;p_u)=0{,}025 bestimmt. Für k=0 lässt sich die untere Grenze mit dieser Gleichung nicht angeben.

Die Idee ist: Wenn bei einem angenommenen Anteilswert p die Wahrscheinlichkeit, höchstens k Erfolge zu erzielen, unter 0,025 fällt, kann dieser p-Wert bei einer Irrtumswahrscheinlichkeit von höchstens 2,5 % ausgeschlossen werden. p_o ist also der größte Wert von p, bei dem k oder weniger Erfolge noch plausibel sind. Für größere Werte von p wäre das beobachtete Ergebnis zu unwahrscheinlich.

Entsprechend ist p_u der kleinste Wert von p, bei dem k oder mehr Erfolge noch plausibel sind. Für kleinere Werte von p wäre das Ergebnis zu unwahrscheinlich. Damit liegt man in mindestens 95 % aller Fälle mit der Aussage p\leq p_o und p\geq p_u richtig. Das Verfahren heißt exakt, weil es für alle p eine Überdeckungswahrscheinlichkeit sicherstellt, die mindestens dem geforderten Konfidenzniveau entspricht.

Praktische Berechnung

Die Grenzen des Clopper-Pearson-Intervalls können mit der verallgemeinerten inversen Verteilungsfunktion der Betaverteilung berechnet werden. In Tabellenkalkulationsprogrammen wie Excel oder LibreOffice Calc eignet sich dafür die Funktion BETAINV; in Python kann scipy.stats.beta.ppf verwendet werden. Grundlage ist der Zusammenhang zwischen Binomialverteilung und Betaverteilung.

Für die Gleichung P_p(X\leq k)=\alpha erhält man p=\operatorname{BETAINV}(1-\alpha/2;k+1;n-k). Allgemein gilt bei Konfidenzniveau \gamma und \alpha=1-\gamma: untere Grenze p_u=\operatorname{BETAINV}(\alpha/2;k;n-k+1), mit dem Sonderfall p_u=0 für k=0; obere Grenze p_o=\operatorname{BETAINV}(1-\alpha/2;k+1;n-k), mit dem Sonderfall p_o=1 für k=n.

Im Beispiel mit n=400, k=20 und 95 % Konfidenzniveau ergibt sich für die untere Grenze: P(X\geq20)=0{,}025, also P(X\leq19)=0{,}975, und p_u=\operatorname{BETAINV}(1-0{,}975;20;400-19)=0{,}03081. Für die obere Grenze gilt P(X\leq20)=0{,}025, und p_o=\operatorname{BETAINV}(1-0{,}025;21;400-20)=0{,}07617.

In Worten bedeutet das: Wenn in einer Stichprobe von 400 Personen genau 20 Personen Partei A nennen, lässt sich der Stimmanteil der Partei A in der gesamten Bevölkerung bei 95-prozentiger Konfidenz mit 3,1 % bis 7,6 % abschätzen.

Überdeckung und Bewertung der Verfahren

Die Überdeckungswahrscheinlichkeit ist die Wahrscheinlichkeit, dass ein nach der jeweiligen Methode berechnetes Intervall den wahren Wert p enthält. Ist C(k) das Konfidenzintervall bei k Erfolgen, verlangt die Definition, dass für alle p gilt: P_p(k\in\{0,\ldots,n\}:p\in C(k))\geq\gamma. Bei stetigen Verteilungen kann oft Gleichheit erreicht werden, also genau =\gamma. Bei der diskreten Binomialverteilung ist das nicht möglich.

Die Überdeckungswahrscheinlichkeit lässt sich als Summe berechnen: P_p(k\in\{0,\ldots,n\}:p\in C(k))=\sum_{k=0}^{n}B(k|p,n)\cdot\mathbf{1}_{[p_u(k),p_o(k)]}(p).

Die Indikatorfunktion \mathbf{1} nimmt den Wert 1 an, wenn p im Intervall liegt, sonst 0. Für k=0 setzt man p_u=0, für k=n setzt man p_o=1.

Brown/Cai/DasGupta vergleichen die beschriebenen Methoden. Sie nennen das Standard-Intervall auch Wald-Intervall nach Abraham Wald. Empfohlen werden für größere Fallzahlen das Agresti-Coull-Intervall und für kleinere Fallzahlen das Wilson-Intervall sowie das Jeffreys-Intervall, das im Artikel nicht weiter behandelt wird. Beim Standard-Intervall liegt die Überdeckungswahrscheinlichkeit für n=1,\ldots,40 fast immer unter dem geforderten Konfidenzniveau. Für das Clopper-Pearson-Intervall ist sie für n=1,\ldots,40 stets größer als \gamma=0{,}95.