Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung
# Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung

Ein Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung ist ein Konfidenzintervall (Vertrauensbereich) für den unbekannten Parameter $p$ der Binomialverteilung (nach Beobachtung von $k$ Treffern in einer Stichprobe der Größe $n$).

Exakte Konfidenzintervalle erhält man unter Zuhilfenahme der Binomialverteilung. Es gibt aber auch Näherungsmethoden, die (meistens) auf der Approximation der Binomialverteilung durch die Normalverteilung basieren.

## Einführendes Beispiel

Um den unbekannten relativen Anteil $p$ einer politischen Partei A in der Wählerschaft zu schätzen, werden in einer Meinungsumfrage $n=400$ Personen befragt, ob sie die Partei A wählen werden. Das exakte Vorgehen ist: Wir wählen 400 Mal eine zufällige Person aus der Wählerschaft aus und befragen diese. Dabei halten wir nicht fest, ob diese Person schon einmal befragt wurde. Es kann also vorkommen, wenngleich es auch bei einer großen Wählerschaft entsprechend unwahrscheinlich ist, dass dieselbe Person mehrmals befragt wird. Die Anzahl $X$ der Befragten, die angeben, die Partei A zu wählen, ist vom Zufall abhängig und deshalb eine Zufallsvariable. Da die befragten Personen zufällig und unabhängig voneinander ausgewählt werden, ist die Zufallsvariable $X$ binomialverteilt mit den Parametern $n=400$ und dem unbekannten Parameter $p$. Nehmen wir an, in der Umfrage haben $k=20$ Befragte angegeben, die Partei A zu wählen. Man berechnet einen Schätzwert ${\hat {p}}$ von $p$ als:

    ${\hat {p}}={\frac {k}{n}}=0{,}05\,$.

Man nennt dies eine Punktschätzung, weil nur ein Wert als Schätzung von $p$ berechnet wird.

Der wahre Wert des relativen Anteils $p$ kann sowohl kleiner als auch größer als der Punktschätzwert ${\hat {p}}$ sein. Mit Sicherheit gilt nur, dass $p$ jeden Wert zwischen 0 und 1 annehmen kann. Wünschenswert wäre ein Konfidenzintervall $[p_{u},p_{o}]$ für $p$. Beim vielfachen Wiederholen des Verfahrens sollen die berechneten Konfidenzintervalle in den „meisten Fällen“ den Parameter $p$ enthalten. Wie oft das der Fall sein soll, wird mittels der Vertrauenswahrscheinlichkeit (oder auch Konfidenzniveau) $\gamma$ ausgedrückt. Das berechnete Intervall $[p_{u},p_{o}]$ wird Konfidenzintervall (oder Vertrauensbereich) genannt. Oft wird $\gamma$ gleich 95 % gewählt. Das bedeutet, dass bei Wiederholung des Verfahrens für 95 % aller Stichproben die Aussage $p\in [p_{u},p_{o}]$ richtig ist.

## Wald-Intervall: Einfache Approximation durch die Normalverteilung

Gegeben sei die binomialverteilte Zahl der Erfolge $X\sim B(X=k|p,n)$, deren Mittelwert $E(X)=pn$ und Varianz $\operatorname {Var} (X)=np(1-p)$ sind. Bei der Schätzung des Parameters $p=E(X)/n$ ersetzt man den Erwartungswert durch die Zahl der Erfolge in der Stichprobe (der Größe n):

    ${\hat {p}}=X/n$.

Entsprechend folgt der Standardfehler

    $\operatorname {SE} ({\hat {p}})={\sqrt {\operatorname {Var} ({\hat {p}})}}={\sqrt {\frac {\operatorname {Var} (X)}{n^{2}}}}={\frac {\sqrt {np(1-p)}}{n}}\approx {\frac {\sqrt {n{\hat {p}}(1-{\hat {p}})}}{n}}={\sqrt {\frac {{\hat {p}}(1-{\hat {p}})}{n}}}.$

Systematisch kann dieses Ergebnis auch durch den Standardfehlers des Maximum-Likelihood-Schätzers

    $\operatorname {SE} ({\hat {p}})={\frac {1}{\sqrt {-{\frac {\partial ^{2}}{\partial \theta ^{2}}}\ell ({\hat {p}})}}}$

erhalten werden, wobei $\ell$ die Loglikelihood-Funktion ist, siehe Konstruktion des Wald-Konfidenzintervalls.

Daraus folgt die oft verwendete folgende Näherungsformel für die Grenzen des Konfidenzintervalls $[p_{u},p_{o}]$ (welches auch als Standard-Intervall oder Wald-Intervall bezeichnet wird):

    $p_{u}={\hat {p}}-c\cdot {\sqrt {\frac {{\hat {p}}\cdot (1-{\hat {p}})}{n}}}$
    $p_{o}={\hat {p}}+c\cdot {\sqrt {\frac {{\hat {p}}\cdot (1-{\hat {p}})}{n}}}$,

wobei $c$ eine Konstante ist, die vom Irrtumsniveau abhängt: $c=\Phi ^{-1}\left(1-{\frac {\alpha }{2}}\right)$, wobei $\alpha =1-\gamma$ das Irrtumsniveau und $\Phi ^{-1}$ die Quantilfunktion der Standardnormalverteilung, also die Umkehrfunktion ihrer Verteilungsfunktion $\Phi$ bezeichnet (z. B. $c\approx 1{,}96$ für $\alpha =0{,}05$).

Wenn diese Formel verwendet wird, sollte $k\geq 50$ und $n-k\geq 50$ sein. Trotzdem kann die Verwendung des Standard-Intervalls problematisch sein. In der Abbildung ist als Beispiel die Überdeckungswahrscheinlichkeit für $n=400$ und $p\in [0{,}125;0{,}875]$ illustriert. Sie liegt oft unter dem geforderten Niveau von 0,95.

Ein weiterer großer Nachteil der Approximation ist, dass das untere Ende des Konfidenzintervalls für sehr kleine Erfolgswahrscheinlichkeiten empirisch nicht mögliche negative Werte überdecken kann bzw. bei sehr hohen Erfolgswahrscheinlichkeiten über 1 hinaus gehen kann.

## Agresti-Coull-Intervall

Für dieses Intervall setzt man ${\tilde {k}}=k+{\frac {c^{2}}{2}}$, $\,{\tilde {n}}=n+c^{2}$, $\,{\tilde {p}}={\frac {\tilde {k}}{\tilde {n}}}$ und verwendet die (oben beschriebene) einfache Approximation mit diesen Parametern:

    $p_{o,u}={\tilde {p}}\pm c\cdot {\sqrt {\frac {{\tilde {p}}\cdot (1-{\tilde {p}})}{\tilde {n}}}}$

Der Mittelpunkt des Intervalls ist identisch zu dem des Wilson-Intervalls und das Intervall ist nie kürzer als ein Wilson-Intervall.

Falls γ = 0,95, dann ist $c=1{,}96\approx 2$ und man bekommt eine einfache Regel: ${\tilde {k}}=k+2$, ${\tilde {n}}=n+4$ und ${\tilde {p}}={\frac {k+2}{n+4}}$.

## Wilson-Intervall

Dieses Intervall wurde 1927 von Edwin Bidwell Wilson vorgeschlagen und ist genauer als die einfache Approximation durch die Normalverteilung. Es gilt, mit dem gleichen $c$ wie im Abschnitt über die Approximation durch die Normalverteilung,

    $p_{o,u}={\frac {1}{1+{\frac {c^{2}}{n}}}}\cdot \left({\hat {p}}+{\frac {c^{2}}{2n}}\pm c\cdot {\sqrt {{\frac {{\hat {p}}\cdot (1-{\hat {p}})}{n}}+{\frac {c^{2}}{4n^{2}}}}}\,\right)$

Offenbar konvergieren die Intervallgrenzen für große $n$ gegen die Grenzen des Standard-Intervalls (da $c^{2}/2n$ und $c^{2}/4n^{2}$ mit wachsendem $n$ gegen Null gehen).

Durch Umformen erhält man die bei Brown/Cai/DasGupta auf Seite 107 angegebene Formel (4):

    $p_{o,u}={\frac {k+{\frac {c^{2}}{2}}}{n+c^{2}}}\pm {\frac {c{\sqrt {n}}}{n+c^{2}}}\cdot {\sqrt {{\frac {k}{n}}\left(1-{\frac {k}{n}}\right)+{\frac {c^{2}}{4n}}}}$

Die bei Henze auf Seite 228 angegebene Formel unterscheidet sich davon noch durch eine Stetigkeitskorrektur (von +0,5 oder −0,5 angewandt auf $k$).

## Clopper-Pearson-Intervall

Von C. Clopper und Egon Pearson (1934) stammt das folgende exakte Verfahren, um die untere Grenze $p_{u}$ und die obere Grenze $p_{o}$ zu bestimmen. Es sei, wie bisher, $n$ die Größe der Stichprobe, $k$ die Anzahl der Erfolge und das Konfidenzniveau sei 95 %.

Die obere Grenze bestimmt man aus $P(X\leq k;p_{o})=0{,}025$ und die untere Grenze aus $P(X\geq k;p_{u})=0{,}025$, siehe Abbildung. Die untere Grenze lässt sich für $k=0$ mit dieser Formel nicht angeben.

Erläuterung: Wenn die Wahrscheinlichkeit, höchstens $k$ Erfolge zu erzielen, für einen Anteilswert $p$ die Grenze 0,025 unterschreitet, so kann bei einer Irrtumswahrscheinlichkeit von maximal 2,5 % ausgeschlossen werden, dass $p$ der gesuchte Anteilswert ist. Somit ist $p_o$ der größte Wert von $p$, bei dem beim gegebenen Konfidenzniveau noch angenommen werden kann, dass k oder weniger Erfolge auftreten. Für größere Werte von $p$ erscheint dies zu unwahrscheinlich.

Für die untere Grenze gilt entsprechend: $p_{u}$ ist der kleinste Wert von $p$, bei dem noch angenommen wird, dass $k$ oder mehr Erfolge auftreten können. Für kleinere Werte von $p$ erscheint dies zu unwahrscheinlich, wobei auch hier die Irrtumswahrscheinlichkeit maximal 2,5 % beträgt. Somit liegt man in mindestens 95 % aller Fälle mit der Aussage „$p\leq p_{o}$ und $p\geq p_{u}$“ richtig.

### Praktische Berechnung

Die beiden Werte $p_u,$ $p_o$ lassen sich mit der verallgemeinerten inversen Verteilungsfunktion der Betaverteilung berechnen; dafür eignet sich beispielsweise die Funktion BETAINV gängiger Tabellenkalkulationsprogramme wie Excel oder LibreOffice Calc, in Python kann die Funktion scipy.stats.beta.ppf benutzt werden. Die Funktion gibt das Quantil der angegebenen Betaverteilung zurück und man erhält aufgrund des Zusammenhangs der Binomial- und Betaverteilung für die Auflösung der Gleichung $P_{p}(X\leq k)=\alpha$:

    $p=\operatorname {BETAINV} (1-\alpha /2;k+1;n-k)$. Im Folgenden bezeichnen wir wie bisher das Konfidenzniveau mit $\gamma$, außerdem sei $\alpha =1-\gamma$.

Im Beispiel mit $n=400,k=20$ sowie Konfidenzniveau von 95 % erhält man so für die untere Grenze des Konfidenzintervalls:

    P(X ≥ 20) = 0,025
    P(X ≤ 19) = 0,975
    $p_{u}=\operatorname {BETAINV} (1-0{,}975;20;400-19)=0{,}03081$

und für die obere Grenze des Konfidenzintervalls:

    $P(X\leq 20)=0{,}025$
    $p_{o}=\operatorname {BETAINV} (1-0{,}025;21;400-20)=0{,}07617$

Die Berechnung der Grenzen des Konfidenzintervalls mit scipy.stats.beta.ppf erfolgt analog:

Erläuterung des Ergebnisses in Worten: In der Stichprobe von 400 befragten Personen gaben 20 Personen an, Partei A zu wählen. Damit lässt sich bei 95-prozentiger Konfidenz der Stimmanteil der Partei A in der gesamten Bevölkerung mit 3,1 % – 7,6 % abschätzen.

Die Methode ist in der folgenden Tabelle zusammengefasst:

| | allgemeiner Fall | Sonderfall |
| - | - | - |
| untere Grenze | $p_u$ = BETAINV(α/2;k;n-k+1) | $p_u=0$ für k=0 |
| obere Grenze | $p_o$ = BETAINV(1-α/2;k+1;n-k) | $p_o=1$ für k=n |

## Analyse der Überdeckungswahrscheinlichkeit

Ist $C(k)$ das Konfidenzintervall zu $k$ Erfolgen, so verlangt man laut Definition, dass für alle $p$ die Überdeckungswahrscheinlichkeit $P_{p}(k\in \{0,\ldots ,n\}:p\in C(k))$ größer oder gleich $\gamma$; ist. Bei stetigen Verteilungen lassen sich Konfidenzintervalle finden, so dass hier Gleichheit vorliegt (also $=\gamma$ statt $\geq \gamma$). Dies ist für die diskrete Binomialverteilung nicht möglich. In folgender Abbildung ist die Überdeckungswahrscheinlichkeit in Abhängigkeit von $p$ dargestellt. Das Clopper-Pearson-Intervall wird übrigens deshalb exakt genannt, weil es eine Überdeckungswahrscheinlichkeit sicherstellt, die für alle $p$ tatsächlich größer oder gleich dem geforderten Konfidenzniveau ist. Für die anderen oben besprochenen Approximationen ist das nicht der Fall: hier gibt es oft Überdeckungswahrscheinlichkeiten, die kleiner sind als das geforderte Niveau!

Die Überdeckungswahrscheinlichkeit berechnet man in Abhängigkeit von $p$ und $n$ als Erwartungswert der Indikatorfunktion $\mathbf {1} _{[p_{u}(k),p_{o}(k)]}(p)$, wobei der Träger der Indikatorfunktion von der Zahl der Erfolge $k$ abhängt, die Binomialverteilt mit $B(k|p,n)$ sind:

    $P_{p}(k\in \{0,\ldots ,n\}:p\in C(k))=\sum _{k=0}^{n}B(k|p,n)\cdot \mathbf {1} _{[p_{u}(k),p_{o}(k)]}(p)$.

Die Indikatorfunktion nimmt den Wert 1 an, wenn $p$ im Konfidenzintervall liegt, und sonst den Wert 0. Für $k=0$ setzt man $p_{u}=0$ und für $k=n$ setzt man $p_{o}=1$.

### Diskussion der Vor- und Nachteile der Verfahren

Die beschriebenen Methoden werden in dem grundlegenden Artikel von Brown/Cai/DasGupta verglichen. Dort wird das Standard-Intervall auch Wald-Intervall genannt (nach Abraham Wald). Brown/Cai/DasGupta empfehlen drei Intervall-Methoden: für größere Fallzahlen das Agresti-Coull-Intervall und für kleinere Fallzahlen das Wilson-Intervall und das Jeffreys-Intervall, welches wir hier nicht besprochen haben. Für einen graphischen Vergleich der oberen und unteren Grenzen für die vier Methoden siehe auch die Abbildung am Anfang dieser Seite und die folgenden vier Abbildungen, welche eine Überdeckungswahrscheinlichkeit kleiner $\gamma =95\%$ rot einfärben, eine Überdeckungswahrscheinlichkeit größer gleich $\gamma$ in grün:

* Beim Standard-Intervall liegt die Überdeckungswahrscheinlichkeit für n=1,…,40 fast immer unter dem geforderten Konfidenzniveau.
* Die Überdeckungswahrscheinlichkeit für das Agresti-Coull-Intervall für n=1,…,40.
* Die Überdeckungswahrscheinlichkeit für das Wilson-Intervall für n=1,…,40.
* Für n=1,…,40 ist hier die Überdeckungswahrscheinlichkeit für das Clopper-Pearson-Intervall aufgetragen. Sie ist stets größer als γ=0,95.
