Le théorème central limite
la somme de n variables indépendantes devient gaussienne, plus ou moins vite
1 · ÉNONCÉ ET VITESSE
$$\begin{gathered}Z_n=\frac{S_n-n\mu}{\sigma\sqrt n}\ \xrightarrow{\ \mathcal L\ }\ \mathcal N(0,1)\\ S_n=X_1+\dots+X_n \text{ i.i.d., } \operatorname{Var}X=\sigma^2\lt\infty\end{gathered}$$
$$\begin{gathered}d_n=\sup_x\big|F_n(x)-\Phi(x)\big|\ \le\ \frac{C\,\rho}{\sigma^3\sqrt n}\\ \rho=\mathbb E|X-\mu|^3,\quad C=0{,}4748 \ \text{(Berry–Esseen)}\end{gathered}$$
2 · À TOI : CHOISIS LA LOI DE DÉPART, PUIS AUGMENTE n
loi exacte de \(Z_n\) contre \(\mathcal N(0,1)\), et l'écart \(F_n-\Phi\)
critère : \(d_n\) en fonction de \(n\), échelles logarithmiques — glisse pour changer \(n\)
Bleu : loi exacte de la somme standardisée, calculée sans tirage aléatoire. Pointillés : densité gaussienne. Gris : la loi de départ (n = 1). En bas, l'écart des fonctions de répartition, dont le maximum est d_n.
3 · RAPPELS
- Développement d'Edgeworth : $$\begin{gathered}F_n(x)\approx\Phi(x)-\frac{\gamma}{6\sqrt n}\,(x^2-1)\,\varphi(x)\\ \gamma=\mathbb E\Big[\Big(\tfrac{X-\mu}{\sigma}\Big)^3\Big]\end{gathered}$$ L'asymétrie \(\gamma\) donne un écart en \(1/\sqrt n\) ; pour une loi symétrique continue, il ne reste qu'un terme en \(1/n\).
- Ordre de grandeur, loi exponentielle (\(\gamma=2\)), \(n=30\) : \(d_{30}=0{,}024\), alors que la borne de Berry–Esseen vaut \(0{,}21\). La borne est universelle, donc pessimiste.
- Loi en treillis (dé, Bernoulli) : \(F_n\) reste une fonction en escalier dont les marches mesurent environ \(1/(\sigma\sqrt{2\pi n})\) ; \(d_n\) ne peut pas descendre plus vite que \(1/\sqrt n\), même pour une loi symétrique.
- Cauchy n'a ni espérance ni variance : \(S_n/n\) suit encore une loi de Cauchy (loi stable). Le théorème ne s'applique pas, et \(d_n\to 1/2\).
- Lien avec OT-LiNGAM : une variable qui mélange plusieurs bruits indépendants est plus proche de la gaussienne que chacun d'eux. C'est pourquoi la variable la moins gaussienne est la plus en amont.