Normal-Approximation
# Normal-Approximation

Die Normal-Approximation ist eine Methode der Wahrscheinlichkeitsrechnung, um die Binomialverteilung für große Stichproben durch die Normalverteilung anzunähern. Hierbei handelt es sich um eine Anwendung des Satzes von Moivre-Laplace und damit auch um eine Anwendung des Zentralen Grenzwertsatzes.

## Formulierung

Nach dem Satz von Moivre-Laplace gilt

    $\lim _{n\to \infty }\left(\operatorname {P} (S_{n}\leq x)-\Phi {\left({\frac {x-np}{\sqrt {np(1-p)}}}\right)}\right)=0$,

wenn $S_{n}$ eine binomialverteilte Zufallsvariable mit dem Erwartungswert $\mathbb {E} [S_{n}]=np$ und der Standardabweichung ${\sqrt {\mathrm {Var} [S_{n}]}}={\sqrt {np(1-p)}}>0$ ist und $\Phi (z)$ die Wahrscheinlichkeitsverteilungsfunktion der Standardnormalverteilung.

Setzt man nun $\mu =np$ und $\sigma ={\sqrt {np(1-p)}}$, dann gilt für $x_{1},x_{2}\in \{0,1,\dots ,n\}$ mit $x_{1}\leq x_{2}$

    ${\begin{aligned}P(x_{1}\leq S_{n}\leq x_{2})&=\underbrace {\sum _{k=x_{1}}^{x_{2}}{\binom {n}{k}}\cdot p^{k}\cdot (1-p)^{n-k}} _{\text{Binomialverteilung}}\\&\approx \underbrace {\Phi {\left({\frac {x_{2}-\mu }{\sigma }}\right)}-\Phi {\left({\frac {x_{1}-\mu }{\sigma }}\right)}} _{\text{Normalverteilung}}.\end{aligned}}$

Die Normalverteilungsapproximation ist dabei so berechnet, als wäre $S_{n}\sim {\mathcal {N}}(np,np(1-p))$.

### Güte der Approximation

Nach dem Satz von Berry-Esseen ist die Approximation besser, je kleiner der Term

    ${\frac {p(1-p)^{3}+(1-p)p^{3}}{(p(1-p))^{3/2}}}\cdot {\frac {1}{\sqrt {n}}}$

ist. Er ist genau dann klein, wenn $\sigma ^{2}$ groß ist. Die Näherung gilt als hinreichend gut, falls $\sigma ^{2}=np(1-p)\geq 9$ gilt. Falls dies nicht gilt, so sollte zumindest $np\geq 5$ und $n(1-p)\geq 5$ gelten. Je asymmetrischer die Binomialverteilung ist, d. h. je größer die Differenz zwischen $p$ und $1-p$ ist, umso größer sollte $n$ sein. Für $p$ nahe an 0 ist zur Näherung die Poisson-Approximation besser geeignet. Für $p$ nahe an 1 sind beide Approximationen schlecht, dann kann jedoch $S_{n}'=n-S_{n}$ statt $S_{n}$ betrachtet werden, d. h. bei der Binomialverteilung werden Erfolge und Misserfolge vertauscht. $S_{n}'$ ist wieder binomialverteilt mit Parametern $n$ und $1-p$ und kann daher mit der Poisson-Approximation angenähert werden.

### Stetigkeitskorrektur

Mit der Stetigkeitskorrektur wird eine verbesserte Approximation der Wahrscheinlichkeit aus der Binomialverteilung durch die Wahrscheinlichkeit aus der Normalverteilung angestrebt. Die Approximation mit Verwendung der Stetigkeitskorrektur ist

    ${\begin{aligned}P(x_{1}\leq S_{n}\leq x_{2})&\approx \Phi \left({\frac {x_{2}+0{,}5-\mu }{\sigma }}\right)-\Phi \left({\frac {x_{1}-0{,}5-\mu }{\sigma }}\right).\end{aligned}}$

Das Addieren und Subtrahieren von 0,5 (der Wert $x_{1}-0{,}5$ ist damit de facto die Obergrenze des $x_{1}-1$-ten Intervalls $(x_{1}-1)+0{,}5$) liefert so eine bessere Näherung für den Übergang von der Berechnung mit der diskreten zur Berechnung mit der stetigen Verteilung.

## Beispiel

Ein fairer Würfel wird 1000 Mal geworfen. Man ist nun an der Wahrscheinlichkeit interessiert, dass zwischen 100 und 150 Mal die Sechs gewürfelt wird.

### Exakte Lösung

Zur Modellierung definiert man den Wahrscheinlichkeitsraum $(\Omega ,\Sigma ,P)$ mit der Ergebnismenge $\Omega :=\{0,\dotsc ,1000\}$, der Anzahl der gewürfelten Sechsen. Die σ-Algebra ist dann kanonisch die Potenzmenge der Ergebnismenge $\Sigma :={\mathcal {P}}(\Omega )$ und die Wahrscheinlichkeitsverteilung die Binomialverteilung $P(\{k\}):=B_{n,p}(\{k\})$, wobei $n=1000$ ist und $p=1/6$. Es ist dann

    $P(100\leq S_{n}\leq 150)=\sum _{i=100}^{150}{\binom {1000}{i}}p^{i}(1-p)^{1000-i}\approx 0{,}0837$

Mit einer Wahrscheinlichkeit von ca. 8,4 % wird also zwischen 100 und 150 Mal die Sechs gewürfelt.

### Approximierte Lösung

Es ist $\sigma ^{2}=np(1-p)\approx 138{,}9>9$. Entsprechend der Faustformel gilt die approximierte Lösung also ausreichend genau.

Es gilt die Approximation ohne Stetigkeitskorrektur

    $P(100\leq S_{n}\leq 150)\approx \Phi \left({\frac {150-1000/6}{\sigma }}\right)-\Phi \left({\frac {100-1000/6}{\sigma }}\right)$
    $\approx \Phi (-1{,}4142)-\Phi (-5{,}6569)\approx 1-\Phi (1{,}4142)\approx 0{,}0786$

Es gilt die Approximation mit Stetigkeitskorrektur

    $P(100\leq S_{n}\leq 150)\approx \Phi \left({\frac {150+0{,}5-1000/6}{\sigma }}\right)-\Phi \left({\frac {100-0{,}5-1000/6}{\sigma }}\right)$
    $\approx \Phi (-1{,}3718)-\Phi (-5{,}6993)\approx 1-\Phi (1{,}3718)\approx 0{,}0851$

Die Werte von $\Phi (z)$ sind meist in einer Tabelle vorgegeben, da keine explizite Stammfunktion existiert. Dennoch ist die approximierte Lösung numerisch günstiger, da keine umfangreichen Berechnungen der Binomialkoeffizienten durchgeführt werden müssen.

