La statistique bivariée : corrélation et régression
5.1 La covariance
$$\text{Cov}(x,y) = \frac{1}{N}\sum (x_i - \bar{x})(y_i - \bar{y}) = \frac{1}{N}\sum x_i y_i - \bar{x}\,\bar{y}$$
5.2 Le coefficient de corrélation linéaire
$$r = \frac{\text{Cov}(x,y)}{\sigma_x \, \sigma_y} \qquad \text{avec} \qquad -1 \leq r \leq 1$$
| Valeur de $\lvert r \rvert$ | Interprétation |
|---|---|
| Proche de 1 | Liaison linéaire forte |
| Entre 0,5 et 0,8 | Liaison linéaire moyenne |
| Proche de 0 | Absence de liaison linéaire (une liaison non linéaire reste possible) |
⚠️ Corrélation n'est pas causalité : deux variables peuvent être fortement corrélées à cause d'une troisième variable (corrélation fallacieuse).
5.3 La droite de régression des moindres carrés
Droite de $y$ en $x$ : $y = ax + b$ avec
$$a = \frac{\text{Cov}(x,y)}{V(x)} \qquad ; \qquad b = \bar{y} - a\bar{x}$$
La droite passe toujours par le point moyen $(\bar{x} ; \bar{y})$.
5.4 Le coefficient de détermination
$$R^2 = r^2$$
$R^2$ mesure la part de la variance de $y$ expliquée par $x$. Un $R^2 = 0{,}81$ signifie que 81 % des variations de $y$ sont expliquées par le modèle.
Exercice 1
Question — On observe pour 5 mois les dépenses publicitaires $x$ (en milliers de DH) et les ventes $y$ (en milliers de DH) : $\bar{x} = 10$, $\bar{y} = 50$, $\sigma_x = 4$, $\sigma_y = 12$, $\text{Cov}(x,y) = 40$. Déterminez le coefficient de corrélation, la droite de régression de $y$ en $x$, et prévoyez les ventes pour une dépense de 14.
Voir le corrigé
Corrélation :
$$r = \frac{40}{4 \times 12} = \frac{40}{48} \approx 0{,}833$$
Corrélation positive forte ; $R^2 = 0{,}694$ → environ 69 % des variations des ventes sont expliquées par la publicité.
Droite de régression : $V(x) = \sigma_x^2 = 16$
$$a = \frac{40}{16} = 2{,}5 \qquad ; \qquad b = 50 - 2{,}5 \times 10 = 25$$
$$y = 2{,}5x + 25$$
Prévision pour $x = 14$ : $y = 2{,}5(14) + 25 = 60$, soit 60 000 DH de ventes prévues. Interprétation de $a$ : 1 000 DH de publicité supplémentaire est associé à 2 500 DH de ventes en plus.
Exercice 2 — Régression à partir des données brutes
| x | 1 | 2 | 3 | 4 | 5 |
|---|---|---|---|---|---|
| y | 3 | 5 | 4 | 7 | 8 |
- Calculez $\bar{x}$, $\bar{y}$, $V(x)$, $V(y)$ et $\text{Cov}(x, y)$.
- Calculez $r$ et $R^2$.
- Déterminez la droite de régression de $y$ en $x$ et prévoyez $y$ pour $x = 6$.
Voir le corrigé
1) $\bar{x} = 3$ ; $\bar{y} = 5{,}4$ ; $V(x) = \dfrac{55}{5} - 9 = 2$ ; $V(y) = \dfrac{163}{5} - 29{,}16 = 3{,}44$ ; $\sum x_i y_i = 93$, donc $\text{Cov} = 18{,}6 - 16{,}2 = 2{,}4$.
2) $r = \dfrac{2{,}4}{\sqrt{2 \times 3{,}44}} \approx 0{,}915$ ; $R^2 \approx 0{,}837$ : 83,7 % de la variance de $y$ est expliquée par $x$.
3) $a = 2{,}4 / 2 = 1{,}2$ ; $b = 5{,}4 - 1{,}2 \times 3 = 1{,}8$ ; $y = 1{,}2x + 1{,}8$ ; pour $x = 6$ : $y = 9$.
L'essentiel — Corrélation et régression
- Covariance : $\text{Cov}(x, y) = \dfrac{1}{N}\sum x_i y_i - \bar{x}\bar{y}$.
- Corrélation : $r = \dfrac{\text{Cov}(x, y)}{\sigma_x \sigma_y}$, avec $-1 \leq r \leq 1$ ; $|r|$ proche de 1 = liaison linéaire forte.
- Corrélation n'est pas causalité.
- Droite des moindres carrés de $y$ en $x$ : $a = \dfrac{\text{Cov}(x, y)}{V(x)}$ et $b = \bar{y} - a\bar{x}$ ; elle passe par le point moyen.
- Coefficient de détermination $R^2 = r^2$ : part de la variance de $y$ expliquée par $x$.