Livre probabilite et statistiques s3 BCG
Livre probabilité et statistiques s3
Chapitre 1
Introduction : probabilité sur un espace fini
Historiquement, le calcul des probabilités s’est développé à partir du XVIIe siècle autour des problèmes de jeux dans des situations où le nombre de cas possibles est fini. Les développements plus récents concernant des espaces non nécessairement finis nécessitent les outils techniques de la théorie de la mesure.
Mais on peut introduire simplement sur les espaces finis toutes les notions importantes de probabilités sans avoir besoin de cet outillage.
1.1.2 Probabilités uniformes
Dans le cas où les symétries font que tous les résultats possibles ω1, ω2, . . . ωn jouent le même rôle, ces résultats doivent avoir la même pondération 1/Card (Ω). On dit alors qu’il sont équiprobables. On a alors pour tout événement A ⊂ Ω, P(A) = X k:ωk∈A 1 Card (Ω) = Card (A) Card (Ω).
Exemple 1.1.5.
Dans le cas du jet de deux dés non pipés, Ω = {(i, j) : 1 ≤ i, j ≤ 6} est muni de la probabilité uniforme.
Remarque 1.1.6.
Si on s’intéresse à la somme des deux dés, on peut choisir Ω = {2, 3, 4 . . . , 12}, ensemble des valeurs prises par cette somme. Mais faute de propriétés de symétrie, on ne sait pas munir cet espace d’une probabilité naturelle. Dans l’exemple 1.1.3, en travaillant sur l’espace plus gros {(i, j) : 1 ≤ i, j ≤ 6} des couples des valeurs des deux dés muni de la probabilité uniforme, nous avons pu construire la pondération naturelle sur les valeurs de la somme des deux dés. Cette pondération n’a rien d’uniforme. Cet exemple permet de bien comprendre l’importance du choix de l’espace de probabilité sur lequel on travaille.
Table des matières
1 Introduction : probabilité sur un espace fini 1
1.1 Probabilité sur un espace fini, événements . . . . . . . . . . . . . . . . . . 1
1.1.1 Définitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1.2 Probabilités uniformes . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2 Probabilité conditionnelle et indépendance . . . . . . . . . . . . . . . . . . 5
1.2.1 Probabilité conditionnelle . . . . . . . . . . . . . . . . . . . . . . . 5
1.2.2 Indépendance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.4 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2 Variables aléatoires discrètes 11
2.1 Espace de probabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.2 Variables aléatoires discrètes . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.2.1 Rappel sur les manipulations de séries . . . . . . . . . . . . . . . . 12
2.2.2 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.2.3 Indépendance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.2.4 Lois discrètes usuelles . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.2.5 Loi marginale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3 Espérance et variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.1 Espérance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.2 Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2.4 Fonction génératrice des variables aléatoires entières .. . 24
2.5 Loi et espérance conditionnelles . . . . . . . . . . . . . . . . . . . . . . . . 25
2.6 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
2.7 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3 Variables aléatoires à densité 35
3.1 Manipulation d’intégrales multiples . . . . . . . . . . . . . . . . . . . . . . 35
3.1.1 Théorème de Fubini . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.1.2 Changement de variables . . . . . . . . . . . . . . . . . . . . . . . . 36
3.2 Variables aléatoires réelles à densité . . . . . . . . . . . . . . . . . . . . . . 38
3.2.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
3.2.2 Densités réelles usuelles . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2.3 Espérance, variance . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.2.4 Fonction de répartition . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.3 Vecteurs aléatoires à densité . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.3.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.3.2 Densité marginale . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
3.3.3 Changement de variables . . . . . . . . . . . . . . . . . . . . . . . . 43
3.3.4 Indépendance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.3.5 Covariance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.3.6 Loi et espérance conditionnelles . . . . . . . . . . . . . . . . . . . . 47
3.4 Lois béta, gamma, du chi 2, de Student et de Fisher . . . . . .. . 49
3.5 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
3.6 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
4 Simulation 59
4.1 Simulation de variables aléatoires discrètes . . . . . . . . . . . . . . . . . . 60
4.1.1 Loi de Bernoulli de paramètre p ∈ [0, 1] . . . . . . . . . . . . . . . . 60
4.1.2 Loi binomiale de paramètres n ∈ N∗ et p ∈ [0, 1] . . . . . . . . . . . 60
4.1.3 Loi géométrique de paramètre p ∈]0, 1] . . . . . . . . . . . . . . . . 60
4.1.4 Simulation suivant une loi discrète quelconque . . . . . . . . . . . . 61
4.2 Simulation de variables aléatoires à densité . . . . . . . . . . . . . . . . . . 61
4.2.1 Loi uniforme sur [a, b] avec a < b ∈ R . . . . . . . . . . . . . . . . . 61
4.2.2 Méthode d’inversion de la fonction de répartition . . . . . . . . . . 61
4.2.3 Méthode polaire pour la loi normale centrée réduite . . . . . . . . . 62
4.2.4 Méthode du rejet . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
4.3 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.4 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
5 Convergence et théorèmes limites 69
5.1 Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
5.2 Lois des grands nombres . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
5.2.1 Loi faible des grands nombres . . . . . . . . . . . . . . . . . . . . . 72
5.2.2 Loi forte des grands nombres . . . . . . . . . . . . . . . . . . . . . . 72
5.3 Fonction caractéristique et convergence en loi . . . . . . . . . . . . . . . . 74
5.3.1 Fonction caractéristique . . . . . . . . . . . . . . . . . . . . . . . . 74
5.3.2 Convergence en loi . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
5.4 Le théorème de la limite centrale . . . . . . . . . . . . . . . . . . . . . . . 80
5.4.1 Enoncé et preuve du résultat . . . . . . . . . . . . . . . . . . . . . . 80
5.4.2 Intervalle de confiance dans la méthode de Monte-Carlo . . . . . . . 81
5.5 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
5.6 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
6 Vecteurs gaussiens 89
6.1 Définition, construction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
6.1.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
6.1.2 Stabilité du caractère gaussien par transformation linéaire . . . . . 90
6.1.3 Construction d’un vecteur gaussien de loi Nn(µ,Λ) . . . . . . . . . 91
6.2 Propriétés des vecteurs gaussiens . . . . . . . . . . . . . . . . . . . . . . . 91
6.2.1 Vecteurs gaussiens et indépendance . . . . . . . . . . . . . . . . . . 91
6.2.2 Vecteurs gaussiens et convergence en loi . . . . . . . . . . . . . . . 93
6.3 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
6.4 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
7 Estimation de paramètres 99
7.1 Modèle paramétrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
7.2 Estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
7.2.1 Définitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
7.2.2 L’Estimateur du Maximum de Vraisemblance . . . . . . . . . . . . 101
7.2.3 Estimateurs de Moments . . . . . . . . . . . . . . . . . . . . . . . . 108
7.2.4 Amélioration d’estimateurs . . . . . . . . . . . . . . . . . . . . . . . 108
7.3 Intervalles de confiance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
7.3.1 Approche non asymptotique . . . . . . . . . . . . . . . . . . . . . . 111
7.3.2 Approche asymptotique . . . . . . . . . . . . . . . . . . . . . . . . 114
7.4 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
7.5 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
8 Tests d’hypothèses 119
8.1 Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
8.1.1 Définitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
8.1.2 Le cas du modèle gaussien P = {N1(µ, σ2), µ ∈ R, σ2 > 0} : . . . . . 122
8.2 Le test du χ2 . . . . . 125
8.2.1 Test d’adéquation à une loi . . . . . . . . . . . . . . . . . . . . . . 125
8.2.2 Test d’adéquation à une famille de lois . . . . . . . . . . . . . . . . 127
8.3 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
8.4 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
9 Régression Linéaire 133
9.1 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
9.2 Test de l’utilité des régresseurs . . . . . . . . . . . . . . . . . . . . . . . . . 135
9.3 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
9.4 Résumé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
10 Corrigés d’exercices et problèmes 141
10.1 Probabilité sur un espace fini . . . . . . . . . . . . . . . . . . . . . . . . . 141
10.2 Variables aléatoires discrètes . . . . . . . . . . . . . . . . . . . . . . . . . . 141
10.3 Variables aléatoires à densité . . . . . . . . . . . . . . . . . . . . . . . . . . 149
10.4 Simulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
10.5 Convergence et théorèmes limites . . . . . . . . . . . . . . . . . . . . . . . 156
10.6 Vecteurs gaussiens . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162
10.7 Estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
10.8 Tests d’hypothèses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
10.9 Régression linéaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
11 Tables statistiques 171
11.1 Quantiles de la loi N1(0, 1) . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
11.2 Fonction de répartition de la loi N1(0, 1) . . . . . . . . . . . . . . . . . . . 172
11.3 Quantiles de la loi du χ2. . . 173
11.4 Quantiles de la loi de Student . . . . . . . . . . . . . . . . . . . . . . . . . 174
11.5 Quantiles de la loi de Fisher (ou Fisher-Snedecor) . . . . . . . . . . . . . . 175
probabilité,probability and statistics,statistique,probability,bcg s3,electrostatique,statistics,magnétostatique,statistics in python,statistics in phyton,data scientists,s3,variable aléatoire continue,loi géométrique,data science with python,data,ai sciences online academy,faculté des sciences semlalia,ai sciences,biosciences,data science,programming,deeplearning,theoreme de gauss
