La multicolinéarité et les erreurs de spécification
6.1 La multicolinéarité
Il y a multicolinéarité lorsque des variables explicatives sont fortement corrélées entre elles.
| Type | Conséquence |
|---|---|
| Parfaite | $X'X$ non inversible : estimation impossible |
| Imparfaite (forte) | Estimateurs toujours sans biais mais variances gonflées ➜ $t$ faibles, coefficients instables, signes contre-intuitifs |
6.2 Détection
| Indice | Critère d'alerte |
|---|---|
| Matrice des corrélations | $\lvert r \rvert > 0{,}8$ entre deux régresseurs |
| $R^2$ élevé mais $t$ tous faibles | Symptôme classique |
| VIF (facteur d'inflation de la variance) | $VIF_j = \dfrac{1}{1 - R_j^2} > 10$ |
| Test de Klein | $R_j^2 > R^2$ global |
6.3 Remèdes
Supprimer une des variables redondantes, augmenter la taille de l'échantillon, combiner les variables corrélées en un indicateur unique, ou recourir à la régression sur composantes principales.
6.4 Les erreurs de spécification
| Erreur | Conséquence |
|---|---|
| Omission d'une variable pertinente corrélée aux régresseurs | Estimateurs biaisés et non convergents (biais de variable omise) |
| Ajout d'une variable non pertinente | Estimateurs sans biais mais moins efficients (variances accrues) |
| Mauvaise forme fonctionnelle | Biais de spécification ➜ test RESET de Ramsey |
Le biais de variable omise est la faute grave : elle attribue à une variable présente l'effet d'une variable absente.
Exercice 1
Question — Une régression donne $R^2 = 0{,}92$, un test de Fisher très significatif, mais aucun coefficient significatif au test de Student. Quel diagnostic posez-vous ? Comment le vérifier et y remédier ?
Voir le corrigé
Diagnostic : forte multicolinéarité. C'est la signature typique : le modèle explique très bien $Y$ globalement (Fisher significatif, $R^2$ élevé), mais l'effet propre de chaque variable ne peut pas être isolé, car les régresseurs varient ensemble. Les variances des estimateurs sont gonflées, donc les $t$ de Student sont écrasés.
Vérification : examiner la matrice des corrélations entre régresseurs (recherche de $\lvert r \rvert > 0{,}8$), calculer les VIF (alerte si $VIF > 10$) et appliquer le test de Klein.
Remèdes : supprimer l'une des variables redondantes (celle la moins fondée théoriquement), agréger les variables corrélées en un indice synthétique, ou augmenter la taille de l'échantillon pour améliorer la précision. Les estimateurs restant sans biais, la multicolinéarité n'est pas rédhibitoire si l'objectif est la seule prévision.
Exercice 2 — VIF, Klein et variable omise
- La régression auxiliaire de $X_1$ sur les autres régresseurs donne $R_1^2 = 0{,}95$ ; celle de $X_2$ donne $R_2^2 = 0{,}60$. Calculez les VIF et concluez.
- Le modèle global a $R^2 = 0{,}85$ et la corrélation entre $X_1$ et $X_3$ est de 0,95. Que dit le test de Klein ?
- On régresse le salaire sur le niveau d'études, sans variable mesurant l'aptitude des individus (corrélée aux études et au salaire). Quel est le risque ?
Voir le corrigé
1) $VIF_1 = 1 / 0{,}05 = 20 > 10$ : multicolinéarité forte pour $X_1$ ; $VIF_2 = 1 / 0{,}4 = 2{,}5$ : pas de problème.
2) $r^2 = 0{,}9025 > R^2 = 0{,}85$ : le test de Klein signale une multicolinéarité.
3) Biais de variable omise : l'effet de l'aptitude est attribué aux études, dont le coefficient est surestimé.
L'essentiel — Multicolinéarité et spécification
- Multicolinéarité : régresseurs fortement corrélés. Parfaite : estimation impossible ; forte : estimateurs sans biais mais variances gonflées, $t$ faibles, signes instables.
- Détection : corrélations $|r| > 0{,}8$ ; $R^2$ élevé avec $t$ faibles ; $VIF_j = \dfrac{1}{1 - R_j^2} > 10$ ; test de Klein ($r_{ij}^2 > R^2$).
- Remèdes : supprimer une variable redondante, agréger, augmenter l'échantillon.
- Omission d'une variable pertinente corrélée aux régresseurs : estimateurs biaisés (faute grave).
- Ajout d'une variable inutile : estimateurs sans biais mais moins précis.
- Forme fonctionnelle : test RESET de Ramsey.