Inférence statistique : tests et intervalles
4.1 Le test de Student sur un coefficient
$$H_0 : \beta_1 = 0 \quad \text{(la variable n'est pas significative)} \qquad \text{contre} \qquad H_1 : \beta_1 \neq 0$$
Statistique de test :
$$t_c = \frac{\hat{\beta}_1}{\hat{\sigma}_{\hat{\beta}_1}} \qquad \sim \; t_{(n-k)} \; \text{sous } H_0$$
Règle de décision : si $\lvert t_c \rvert > t_{\text{table}}$ (≈ 1,96 pour un grand échantillon à 5 %), on rejette $H_0$ : la variable est significative.
Règle empirique : $\lvert t_c \rvert > 2$ ➜ variable significative à 5 %.
4.2 La p-value
La p-value est la probabilité d'obtenir une statistique au moins aussi extrême que celle observée, si $H_0$ est vraie.
$$\text{p-value} < 0{,}05 \; \Longrightarrow \; \text{rejet de } H_0 \text{ au seuil de 5 \%}$$
4.3 Intervalle de confiance d'un coefficient
$$IC_{95\%}(\beta_1) = \left[ \hat{\beta}_1 - t_{\alpha/2}\,\hat{\sigma}_{\hat{\beta}_1} \; ; \; \hat{\beta}_1 + t_{\alpha/2}\,\hat{\sigma}_{\hat{\beta}_1} \right]$$
Si l'intervalle contient 0, le coefficient n'est pas significativement différent de zéro : c'est la traduction exacte du test de Student.
4.4 Les risques d'erreur
| $H_0$ vraie | $H_0$ fausse | |
|---|---|---|
| On rejette $H_0$ | Erreur de 1ʳᵉ espèce ($\alpha$) | Décision correcte (puissance) |
| On accepte $H_0$ | Décision correcte | Erreur de 2ᵉ espèce ($\beta$) |
Exercice 1
Question — Une régression sur $n = 30$ observations (2 paramètres) donne $\hat{\beta}_1 = 0{,}72$ avec une erreur standard de 0,30. Testez la significativité de la variable au seuil de 5 % ($t_{0,025}(28) = 2{,}048$) et construisez l'intervalle de confiance.
Voir le corrigé
Test de Student :
$$t_c = \frac{0{,}72}{0{,}30} = 2{,}4$$
$\lvert 2{,}4 \rvert > 2{,}048$ ➜ on rejette $H_0$. La variable explicative est significative au seuil de 5 %.
Intervalle de confiance :
$$IC = [0{,}72 - 2{,}048 \times 0{,}30 \; ; \; 0{,}72 + 2{,}048 \times 0{,}30] = [0{,}106 \; ; \; 1{,}334]$$
L'intervalle ne contient pas 0, ce qui confirme la conclusion du test : les deux approches sont strictement équivalentes.
Exercice 2 — Tests sur la régression à 5 observations
Avec $\hat{\beta}_1 = 1{,}45$ et $\hat{\sigma}_{\hat{\beta}_1} \approx 0{,}126$ ($n = 5$, $k = 2$, $t_{0,025}(3) = 3{,}182$) :
- Testez la significativité de $X$ à 5 %.
- Construisez l'intervalle de confiance à 95 % de $\beta_1$.
- Testez $H_0 : \beta_1 = 1$.
Voir le corrigé
1) $t_c = 1{,}45 / 0{,}126 \approx 11{,}5 > 3{,}182$ : on rejette $H_0$, $X$ est significative.
2) $1{,}45 \pm 3{,}182 \times 0{,}126$, soit environ $[1{,}05 \;;\; 1{,}85]$ ; l'intervalle ne contient pas 0.
3) $t_c = \dfrac{1{,}45 - 1}{0{,}126} \approx 3{,}58 > 3{,}182$ : on rejette $\beta_1 = 1$ (cohérent : 1 n'est pas dans l'intervalle).
L'essentiel — Tests et intervalles
- Test de Student : $H_0 : \beta_1 = 0$ ; $t_c = \dfrac{\hat{\beta}_1}{\hat{\sigma}_{\hat{\beta}_1}}$, loi de Student à $n - k$ degrés de liberté.
- Si $|t_c| > t_{table}$ : on rejette $H_0$, la variable est significative (règle empirique : $|t| > 2$ à 5 %).
- Pour tester $\beta_1 = b$ : $t_c = \dfrac{\hat{\beta}_1 - b}{\hat{\sigma}_{\hat{\beta}_1}}$.
- p-value < 0,05 : rejet de $H_0$ à 5 %.
- $IC = \hat{\beta}_1 \pm t_{\alpha/2} \hat{\sigma}_{\hat{\beta}_1}$ ; s'il contient 0, la variable n'est pas significative.
- Erreur de 1ʳᵉ espèce ($\alpha$) : rejeter $H_0$ vraie ; de 2ᵉ espèce : accepter $H_0$ fausse.