Variables aléatoires à densité : cours de maths en L2 en PDF.

La fonction de répartition de \(X\) est la fonction \(F_X : \mathbb{R} \to [0,1]\) définie par \(F_X(x) = P(X \leq\, x)\).

La fonction \(F_X\) est croissante, continue à droite en tout point, et vérifie \(\lim_{x \to -\infty} F_X(x) = 0\) et \(\lim_{x \to +\infty} F_X(x) = 1\). De plus, pour \(a < b\), on a \(P(a < X \leq\, b) = F_X(b) – F_X(a)\) et \(P(X = a) = F_X(a) – \lim_{x \to a^-} F_X(x)\).

D’abord, si \(x \leq\, y\), alors \(\{X \leq\, x\} \subset \{X \leq\, y\}\), donc \(F_X(x) \leq\, F_X(y)\). Ensuite, la suite d’événements \(\{X \leq\, x + 1/n\}\) décroît vers \(\{X \leq\, x\}\). Par continuité décroissante de \(P\), on obtient \(F_X(x + 1/n) \to F_X(x)\) ; la monotonie donne alors la continuité à droite. De même, \(\{X \leq\, -n\}\) décroît vers l’ensemble vide et \(\{X \leq\, n\}\) croît vers \(\Omega\), d’où les deux limites. Enfin, \(\{X < a\}\) est la réunion croissante des \(\{X \leq\, a – 1/n\}\), ce qui donne la formule du saut.

Si \(X\) suit la loi de Bernoulli de paramètre \(p\), alors \(F_X(x) = 0\) pour \(x < 0\), \(F_X(x) = 1 – p\) pour \(0 \leq\, x < 1\) et \(F_X(x) = 1\) pour \(x \geq\, 1\). La fonction est en escalier, avec deux sauts de hauteurs \(1 – p\) et \(p\).

Une densité de probabilité est une fonction \(f : \mathbb{R} \to \mathbb{R}\) positive, continue sauf en un nombre fini de points, telle que \(\int_{-\infty}^{+\infty} f(t)\,dt\) converge et vaille \(1\). On dit que \(X\) est une variable à densité de densité \(f\) si, pour tout réel \(x\), \[F_X(x) = \int_{-\infty}^{x} f(t)\,dt.\]

Soit \(X\) de densité \(f\). Alors \(F_X\) est continue sur \(\mathbb{R}\), donc \(P(X = a) = 0\) pour tout réel \(a\). De plus, \(F_X\) est dérivable en tout point \(x\) où \(f\) est continue, avec \(F_X^{\prime}(x) = f(x)\). Enfin, pour \(a \leq\, b\), \[P(a \leq\, X \leq\, b) = P(a < X < b) = \int_a^b f(t)\,dt.\]

Pour vérifier qu’une fonction \(f\) est une densité : 1) montrer que \(f \geq\, 0\) ; 2) vérifier la continuité sauf en un nombre fini de points ; 3) justifier la convergence de \(\int_{-\infty}^{+\infty} f\), par exemple par comparaison ; 4) calculer cette intégrale et vérifier qu’elle vaut \(1\). Si \(f\) dépend d’une constante \(c\), la condition 4 détermine \(c\).

Soit \(f(x) = \dfrac{c}{1 + x^2}\). Cette fonction est continue et positive si \(c \geq\, 0\). De plus, \(\int_{-A}^{B} \frac{dt}{1+t^2} = \arctan B – \arctan(-A)\) tend vers \(\pi\). Donc \(f\) est une densité si et seulement si \(c = 1/\pi\). C’est la loi de Cauchy.

Si \(F_X\) est continue sur \(\mathbb{R}\) et de classe \(C^1\) sauf en un nombre fini de points, alors \(X\) est à densité. Une densité est obtenue en posant \(f = F_X^{\prime}\) là où \(F_X\) est dérivable, et une valeur positive arbitraire ailleurs.

Une densité n’est pas unique : modifier \(f\) en un nombre fini de points ne change aucune intégrale. On parle donc d’une densité de \(X\), et non de la densité.

Soit \(a < b\). La variable \(X\) suit la loi uniforme sur \([a,b]\), notée \(\mathcal{U}([a,b])\), si elle admet pour densité \(f(x) = \dfrac{1}{b-a}\) sur \([a,b]\) et \(f(x) = 0\) ailleurs. Sa fonction de répartition vaut \(\dfrac{x-a}{b-a}\) sur \([a,b]\), \(0\) avant et \(1\) après.

Soit \(\lambda > 0\). La variable \(X\) suit la loi exponentielle de paramètre \(\lambda\), notée \(\mathcal{E}(\lambda)\), si elle a pour densité \(f(x) = \lambda e^{-\lambda x}\) pour \(x \geq\, 0\) et \(f(x) = 0\) pour \(x < 0\). Alors \(F_X(x) = 1 – e^{-\lambda x}\) pour \(x \geq\, 0\).

Si \(X \sim \mathcal{E}(\lambda)\), alors \(X\) est sans mémoire : pour tous \(s, t \geq\, 0\), \(P(X > s + t \mid X > s) = P(X > t)\).

En effet, \(P(X > t) = e^{-\lambda t}\). Comme \(\{X > s+t\} \subset \{X > s\}\), le quotient vaut \(e^{-\lambda(s+t)} / e^{-\lambda s} = e^{-\lambda t}\).

La loi normale centrée réduite \(\mathcal{N}(0,1)\) a pour densité \(\varphi(x) = \dfrac{1}{\sqrt{2\pi}} e^{-x^2/2}\). Sa fonction de répartition se note \(\Phi\). Plus généralement, pour \(m \in \mathbb{R}\) et \(\sigma > 0\), la loi \(\mathcal{N}(m, \sigma^2)\) a pour densité \[f(x) = \frac{1}{\sigma\sqrt{2\pi}} \exp(-\frac{(x-m)^2}{2\sigma^2}).\]

Par parité de \(\varphi\), on a \(\Phi(-x) = 1 – \Phi(x)\) pour tout réel \(x\). Par conséquent, pour \(a > 0\), \(P(|Z| \leq\, a) = 2\Phi(a) – 1\). De plus, \(X \sim \mathcal{N}(m, \sigma^2)\) si et seulement si \(Z = \dfrac{X – m}{\sigma} \sim \mathcal{N}(0,1)\).

Pour calculer une probabilité normale : centrer et réduire, puis lire la table de \(\Phi\). Par exemple, si \(X \sim \mathcal{N}(m, \sigma^2)\), alors \(P(X \leq\, x) = \Phi(\frac{x – m}{\sigma})\). Pour une valeur négative, on utilise \(\Phi(-u) = 1 – \Phi(u)\).

On lit dans la table \(\Phi(1{,}96) \approx 0{,}975\). Donc \(P(|Z| \leq\, 1{,}96) \approx 0{,}95\) : la loi normale centrée réduite prend ses valeurs dans \([-1{,}96 ; 1{,}96]\) avec une probabilité de \(95\,\%\). La figure ci-dessous représente cette aire centrale et les deux queues de \(2{,}5\,\%\).

Soit \(X\) de densité \(f\). On dit que \(X\) admet une espérance si \(\int_{-\infty}^{+\infty} |t| f(t)\,dt\) converge. On pose alors \(E(X) = \int_{-\infty}^{+\infty} t f(t)\,dt\).

La convergence absolue est exigée. Par exemple, pour la loi de Cauchy, \(\frac{|t|}{\pi(1+t^2)} \sim \frac{1}{\pi |t|}\) en \(\pm\infty\). Cette intégrale diverge, donc la loi de Cauchy n’a pas d’espérance, bien que sa densité soit paire.

Théorème de transfert. Soit \(X\) de densité \(f\), nulle hors d’un intervalle \(I\), et \(g\) continue sur \(I\) sauf en un nombre fini de points. Alors \(g(X)\) admet une espérance si et seulement si \(\int_I |g(t)| f(t)\,dt\) converge, et dans ce cas \[E(g(X)) = \int_I g(t) f(t)\,dt.\]

Si \(X^2\) admet une espérance, on dit que \(X\) admet un moment d’ordre \(2\). Alors \(X\) admet une espérance et la variance \(V(X) = E((X – E(X))^2)\) vérifie la formule de König-Huygens \(V(X) = E(X^2) – E(X)^2\). L’écart type est \(\sigma(X) = \sqrt{V(X)}\).

L’espérance est linéaire et croissante. Pour tous réels \(a, b\), on a \(E(aX + b) = aE(X) + b\) et \(V(aX + b) = a^2 V(X)\).

Voici les moments des lois usuelles.

• Si \(X \sim \mathcal{U}([a,b])\), alors \(E(X) = \dfrac{a+b}{2}\) et \(V(X) = \dfrac{(b-a)^2}{12}\).
• Si \(X \sim \mathcal{E}(\lambda)\), alors \(E(X) = \dfrac{1}{\lambda}\) et \(V(X) = \dfrac{1}{\lambda^2}\).
• Si \(X \sim \mathcal{N}(m, \sigma^2)\), alors \(E(X) = m\) et \(V(X) = \sigma^2\).

Traitons la loi exponentielle. Pour \(A > 0\), une intégration par parties donne \[\int_0^A \lambda t e^{-\lambda t}\,dt = [-t e^{-\lambda t}]_0^A + \int_0^A e^{-\lambda t}\,dt = -A e^{-\lambda A} + \frac{1 – e^{-\lambda A}}{\lambda}.\] Quand \(A \to +\infty\), on obtient \(E(X) = 1/\lambda\). De même, \(\int_0^{+\infty} \lambda t^2 e^{-\lambda t}\,dt = \frac{2}{\lambda} E(X) = \frac{2}{\lambda^2}\), donc \(V(X) = \frac{2}{\lambda^2} – \frac{1}{\lambda^2} = \frac{1}{\lambda^2}\). Pour la loi normale, la fonction \(t \varphi(t)\) est impaire et intégrable, donc \(E(Z) = 0\). Ensuite, une intégration par parties avec \(\varphi^{\prime}(t) = -t\varphi(t)\) donne \(E(Z^2) = \int t \cdot t\varphi(t)\,dt = \int \varphi(t)\,dt = 1\). Enfin, \(X = m + \sigma Z\) donne \(E(X) = m\) et \(V(X) = \sigma^2\).

Si \(X \sim \mathcal{E}(1)\), le théorème de transfert donne \(E(e^{X/2}) = \int_0^{+\infty} e^{t/2} e^{-t}\,dt = 2\). En revanche, \(E(e^{X})\) n’existe pas, car \(\int_0^{+\infty} e^{t} e^{-t}\,dt\) diverge.

Par la fonction de répartition. Pour tout \(y\), on écrit \(F_Y(y) = P(g(X) \leq\, y)\). On résout l’inéquation \(g(X) \leq\, y\) en \(X\), puis on exprime le résultat avec \(F_X\). Enfin, on dérive pour obtenir une densité, après avoir vérifié le critère du II.2.

Soit \(Z \sim \mathcal{N}(0,1)\) et \(Y = Z^2\). Pour \(y \leq\, 0\), \(F_Y(y) = 0\). Pour \(y > 0\), on a \(F_Y(y) = P(-\sqrt{y} \leq\, Z \leq\, \sqrt{y}) = 2\Phi(\sqrt{y}) – 1\). En dérivant, \(f_Y(y) = \dfrac{1}{\sqrt{y}} \varphi(\sqrt{y}) = \dfrac{1}{\sqrt{2\pi y}} e^{-y/2}\) pour \(y > 0\). C’est la loi du khi-deux à un degré de liberté.

Méthode de la fonction muette. Si, pour toute fonction \(h\) continue et bornée, on a \(E(h(Y)) = \int_{-\infty}^{+\infty} h(y)\,q(y)\,dy\) avec \(q\) une densité, alors \(Y\) admet \(q\) pour densité.

Soit \(U \sim \mathcal{U}([0,1])\) et \(Y = -\ln(U)\). Pour \(h\) continue bornée, \(E(h(Y)) = \int_0^1 h(-\ln u)\,du\). Le changement de variable \(u = e^{-y}\), \(du = -e^{-y}\,dy\), donne \(\int_0^{+\infty} h(y) e^{-y}\,dy\). Donc \(Y \sim \mathcal{E}(1)\). Ce résultat sert à simuler une loi exponentielle à partir d’un générateur uniforme.

Si \(g\) n’est pas injective, comme \(x \mapsto x^2\) sur \(\mathbb{R}\), il faut découper le domaine. Dans ce cas, la fonction de répartition reste souvent la voie la plus sûre.

Un couple \((X,Y)\) admet la densité \(f : \mathbb{R}^2 \to \mathbb{R}_+\), intégrable d’intégrale \(1\), si pour tout domaine \(D\) raisonnable (par exemple un rectangle ou un domaine élémentaire), \[P((X,Y) \in D) = \iint_D f(x,y)\,dx\,dy.\]

Si \((X,Y)\) a pour densité \(f\), alors \(X\) et \(Y\) sont à densité, de densités marginales \[f_X(x) = \int_{-\infty}^{+\infty} f(x,y)\,dy, \qquad f_Y(y) = \int_{-\infty}^{+\infty} f(x,y)\,dx.\]

Soient \(X\) et \(Y\) à densités \(f_X\) et \(f_Y\). Elles sont indépendantes si et seulement si le couple admet pour densité \((x,y) \mapsto f_X(x) f_Y(y)\).

Si la densité du couple est non nulle exactement sur un domaine qui n’est pas un produit d’intervalles, comme un triangle, les variables ne sont pas indépendantes. Dans ce cas, le produit \(f_X f_Y\) serait non nul sur un rectangle plus grand.

Si \(X\) et \(Y\) sont indépendantes, de densités \(f_X\) et \(f_Y\), et si l’une des deux est bornée, alors \(S = X + Y\) est à densité, et \[f_S(s) = (f_X * f_Y)(s) = \int_{-\infty}^{+\infty} f_X(x)\,f_Y(s – x)\,dx.\]

Soit \(h\) continue bornée. Par indépendance et transfert, \(E(h(X+Y)) = \iint h(x+y) f_X(x) f_Y(y)\,dx\,dy\). À \(x\) fixé, on pose \(s = x + y\) dans l’intégrale en \(y\). Puis le théorème de Fubini pour les fonctions positives permet d’échanger l’ordre d’intégration : \(E(h(S)) = \int h(s) (\int f_X(x) f_Y(s-x)\,dx) ds\). La méthode de la fonction muette conclut.

Soient \(X, Y\) indépendantes de loi \(\mathcal{U}([0,1])\). Alors \(f_S(s) = \int_0^1 \mathbf{1}_{[0,1]}(s – x)\,dx\) est la longueur de \([0,1] \cap [s-1, s]\). On trouve \(f_S(s) = s\) sur \([0,1]\), \(f_S(s) = 2 – s\) sur \([1,2]\) et \(0\) ailleurs. La figure ci-dessous confronte ce triangle à un histogramme de simulations.

Si \(X \sim \mathcal{N}(m_1, \sigma_1^2)\) et \(Y \sim \mathcal{N}(m_2, \sigma_2^2)\) sont indépendantes, alors \(X + Y \sim \mathcal{N}(m_1 + m_2, \sigma_1^2 + \sigma_2^2)\). De même, la somme de \(n\) variables indépendantes de loi \(\mathcal{E}(\lambda)\) a pour densité \(s \mapsto \dfrac{\lambda^n s^{n-1}}{(n-1)!} e^{-\lambda s}\) sur \(\mathbb{R}_+\).

Pour calculer la loi d’une somme : 1) justifier l’indépendance ; 2) écrire l’intégrale de convolution avec les indicatrices ; 3) traduire les conditions en un intervalle pour \(x\), en discutant selon \(s\) ; 4) calculer, puis vérifier que le résultat est positif et d’intégrale \(1\).

Théorème de Moivre-Laplace. Soit \(p \in \,]0,1[\) et \(S_n \sim \mathcal{B}(n,p)\). Posons \(Z_n = \dfrac{S_n – np}{\sqrt{np(1-p)}}\). Alors, pour tous réels \(a < b\), \[\lim_{n \to +\infty} P(a \leq\, Z_n \leq\, b) = \Phi(b) – \Phi(a).\]

On améliore l’approximation par la correction de continuité. Comme \(S_n\) est à valeurs entières, on remplace \(P(k_1 \leq\, S_n \leq\, k_2)\) par \(P(k_1 – 0{,}5 \leq\, T \leq\, k_2 + 0{,}5)\), où \(T\) suit la loi normale approchante.

On lance \(100\) fois une pièce équilibrée. Le nombre de piles \(S\) suit \(\mathcal{B}(100 ; 0{,}5)\), de moyenne \(50\) et d’écart type \(5\). Avec correction de continuité, \(P(45 \leq\, S \leq\, 55) \approx 2\Phi(1{,}1) – 1 \approx 2 \times 0{,}8643 – 1 \approx 0{,}729\).