Cours s3 probabilites et statistiques BCG
Cours s3 probabilités et statistiques
Introduction
Si la théorie des probabilités a été originellement motivée par l’analyse des jeux de hasard, elle occupe aujourd’hui une place centrale dans la plupart des sciences.
Tout d’abord, de par ses applications pratiques : en tant que base des statistiques, elle permet l’analyse des données recueillies lors d’une expérience, lors d’un sondage, etc. ; elle a également conduit au développement de puissants algorithmes stochastiques pour résoudre des problèmes inabordables par une approche déterministe ; elle possède en outre de nombreuses applications directes, par exemple en fiabilité, ou dans les assurances et la finance.
D’un côté plus théorique, elle permet la modé- lisation de nombreux phénomènes, aussi bien en sciences naturelles (physique, chimie, biologie, etc.) qu’en sciences humaines (économie, sociologie, par exemple) et dans d’autres disciplines (médecine, climatologie, informatique, réseaux de communication, traitement du signal, etc.).
Elle s’est même révélée utile dans de nombreux domaines de mathématiques pures (algèbre, théorie des nombres, combinatoire, etc.) et appliquées (EDP, par exemple).
Finalement, elle a acquis une place importante en mathématiques de par son intérêt intrinsèque, et, de par sa versatilité, possède un des spectres les plus larges en mathématiques, allant des problèmes les plus appliqués aux questions les plus abstraites. Le concept de probabilité est aujourd’hui familier à tout un chacun. Nous sommes constamment confrontés à des événements dépendant d’un grand nombre de facteurs hors de notre contrôle ; puisqu’il nous est impossible dans ces conditions de prédire exactement quel en sera le résultat, on parle de phénomènes aléatoires. Ceci ne signifie pas nécessairement qu’il y ait quelque chose d’intrinsèquement aléatoire à l’œuvre, mais simplement que l’information à notre disposition n’est que partielle. Quelques exemples : le résultat d’un jeu de hasard (pile ou face, jet de dé, roulette, loterie, etc.) ; la durée de vie d’un atome radioactif, d’un individu ou d’une ampoule électrique ; le nombre de gauchers dans un échantillon de personnes tirées au hasard ; le bruit dans un système de communication ; la fréquence d’accidents de la route ; le nombre de SMS envoyés la nuit du 31 décembre ; le nombre d’étoiles doubles dans une région du ciel ; la position d’un grain de pollen en suspension dans l’eau ; l’évolution du cours de la bourse ; etc.
Le développement d’une théorie mathématiques permettant de modéliser de tels phénomènes aléatoires a occupé les scientifiques depuis plusieurs siècles. Motivés initialement par l’étude des jeux de hasard, puis par des problèmes d’assurances, le domaine d’application de la théorie s’est ensuite immensément élargi. Les premières publications sur le sujet remontent à G.
Cardano 1 avec son livre Liber De Ludo Aleæ (publié en 1663, mais probablement achevé en 1563), ainsi qu’à Kepler 2 et Galilée 3 . Toutefois, il est généralement admis que la théorie des probabilités débute réellement avec les travaux de Pascal 4 et de Fermat 5 . La théorie fut ensuite développée par de nombreuses personnes, dont Huygens 6 , J. Bernoulli 7 , de Moivre 8 , D. Bernoulli 9 , Euler 10, Gauss 11 et Laplace 12. La théorie moderne des probabilités est fondée sur l’approche axiomatique de Kolmogorov 13, basée sur la théorie de la mesure de Borel 14 et Lebesgue 15. Grâce à cette approche, la théorie a alors connu un développement très rapide tout au long du XXème siècle.
Table des matières
Table des matières 3
0 Introduction 5
0.1 Modélisation des phénomènes aléatoires . . . . . . . . . . . . . . . . . . . . . . . 6
I Espaces de probabilité discrets 11
1 Probabilité, indépendance 13
1.1 Mesures de probabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.2 Quelques résultats combinatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3 Probabilité conditionnelle, formule de Bayes . . . . . . . . . . . . . . . . . . . . . 22
1.4 Indépendance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
1.5 Expériences répétées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2 Variables aléatoires discrètes 31
2.1 Variables aléatoires discrètes et leurs lois . . . . . . . . . . . . . . . . . . . . . . . 31
2.2 Indépendance de variables aléatoires . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.3 Vecteurs aléatoires discrets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.4 Espérance, variance, covariance et moments . . . . . . . . . . . . . . . . . . . . . 39
3 Marche aléatoire simple sur Z 55
3.1 Description du processus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
3.2 Quelques propriétés importantes . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.3 Le premier retour au point de départ . . . . . . . . . . . . . . . . . . . . . . . . . 58
3.4 La loi de l’arc-sinus pour la dernière visite en 0 . . . . . . . . . . . . . . . . . . . 61
3.5 La loi de l’arc-sinus pour les temps de séjour . . . . . . . . . . . . . . . . . . . . 62
4 Fonctions génératrices 65
4.1 Définition, propriétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
4.2 Application aux processus de branchement . . . . . . . . . . . . . . . . . . . . . 69
4.3 Application à la marche aléatoire simple sur Z . . . . . . . . . . . . . . . . . . . 72
4.4 Fonction génératrice conjointe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
II Espaces de probabilité généraux 77
5 Approche axiomatique 79
5.1 Construction d’espaces de probabilité . . . . . . . . . . . . . . . . . . . . . . . . 79
5.2 Variables aléatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
5.3 Indépendance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
5.4 Espérance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
5.5 Variables aléatoires à densité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
5.6 Processus en temps discret. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
6 Fonctions caractéristiques 109
6.1 Définition et propriétés élémentaires . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.2 Théorèmes d’inversion et de continuité . . . . . . . . . . . . . . . . . . . . . . . . 111
6.3 Quelques exemples classiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
7 Théorèmes limites 117
7.1 Un point technique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
7.2 Quelques outils . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
7.3 Modes de convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
7.4 La loi des grands nombres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
7.5 Le Théorème Central Limite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
7.6 La loi 0-1 de Kolmogorov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
8 Retour aux marches aléatoires 131
8.1 Compléments concernant la marche sur Z . . . . . . . . . . . . . . . . . . . . . . 131
8.2 Marche aléatoire simple sur Z . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
9 Les chaînes de Markov 141
9.1 Définition et exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
9.2 Chaînes de Markov absorbantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
9.3 Chaînes de Markov irréductibles . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
10 Modèle de percolation 159
10.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
10.2 Transition de phase . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
11 Le processus de Poisson 165
11.1 Définition et propriétés élémentaires . . . . . . . . . . . . . . . . . . . . . . . . . 165
11.2 Autres propriétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
12 Introduction à la statistique 183
12.1 Estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
12.2 Intervalles de confiance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
12.3 Tests d’hypothèses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193