L'inégalité de concentration

3.1 Rappels du chapitre 15

Soit $X$ une variable aléatoire d'espérance $\mu$ et de variance $V$. Un échantillon de taille $n$ de sa loi est une liste $(X_1, \ldots, X_n)$ de variables indépendantes, de même loi que $X$. On note $S_n = X_1 + \cdots + X_n$ et $M_n = \dfrac{S_n}{n}$. Alors : $E(M_n) = \mu, \qquad V(M_n) = \frac{V}{n}, \qquad \sigma(M_n) = \frac{\sigma}{\sqrt{n}}.$

3.2 L'inégalité de concentration

Propriété (inégalité de concentration). Si $M_n$ est la variable aléatoire moyenne d'un échantillon de taille $n$ d'une variable aléatoire d'espérance $\mu$ et de variance $V$, alors pour tout $\delta > 0$ : $P\big(\lvert M_n - \mu \rvert \geqslant \delta\big) \leqslant \frac{V}{n\,\delta^2}.$

Démonstration. On applique l'inégalité de Bienaymé-Tchebychev à la variable $M_n$, d'espérance $\mu$ et de variance $\dfrac{V}{n}$ : $P\big(\lvert M_n - \mu \rvert \geqslant \delta\big) \leqslant \frac{V(M_n)}{\delta^2} = \frac{V/n}{\delta^2} = \frac{V}{n\,\delta^2}.$

Plus l'échantillon est grand, plus il est improbable que la moyenne s'écarte de $\mu$.

Exemple 6 (des clémentines). La masse $X$ d'une clémentine, en grammes, suit la loi suivante.

$x$	$60$	$70$	$80$	$90$
$P(X = x)$	$0{,}2$	$0{,}4$	$0{,}3$	$0{,}1$

On trouve $\mu = 73$, $V = 0{,}2 \times 169 + 0{,}4 \times 9 + 0{,}3 \times 49 + 0{,}1 \times 289 = 81$ et $\sigma = 9$.

On pèse $100$ clémentines, qui forment un échantillon de cette loi. Avec $\delta = 3$ : $P\big(\lvert M_{100} - 73 \rvert \geqslant 3\big) \leqslant \frac{81}{100 \times 3^2} = \frac{81}{900} = 0{,}09.$ Pour une seule clémentine ($n = 1$), la borne vaudrait $\dfrac{81}{9} = 9$, et elle ne dirait rien.

3.3 Somme ou moyenne

Comme $S_n = n\,M_n$, les événements $\lvert S_n - n\mu \rvert \geqslant n\delta$ et $\lvert M_n - \mu \rvert \geqslant \delta$ sont le même événement. Pour une question sur une somme, on se ramène donc à la moyenne.

Exemple 7 (la masse totale). $E(S_{100}) = 7\,300$, et $P\big(\lvert S_{100} - 7\,300 \rvert \geqslant 300\big) = P\big(\lvert M_{100} - 73 \rvert \geqslant 3\big) \leqslant 0{,}09.$

3.4 Le facteur $1/\sqrt{n}$

Prenons $\delta = \dfrac{k\sigma}{\sqrt{n}}$ avec $k > 0$. Alors $\dfrac{V}{n\,\delta^2} = \dfrac{\sigma^2}{n} \times \dfrac{n}{k^2\sigma^2} = \dfrac{1}{k^2}$ : $P\Big(\lvert M_n - \mu \rvert \geqslant \frac{k\sigma}{\sqrt{n}}\Big) \leqslant \frac{1}{k^2}.$

La borne ne dépend plus de $n$. Pour un même risque, la largeur de l'intervalle autour de $\mu$ est proportionnelle à $\dfrac{1}{\sqrt{n}}$ : quand $n$ est multiplié par $4$, la largeur est divisée par $2$. C'est le facteur $1/\sqrt{n}$ de la théorie de l'estimation, aperçu expérimentalement en classe de Seconde.

Pour les clémentines, avec $k = 2$, la demi-largeur vaut $\dfrac{18}{\sqrt{n}}$ grammes :