Apprentissage automatique et aide à la décision

Objectifs du chapitre — À la fin de ce chapitre, vous saurez :

• définir l'apprentissage automatique et distinguer apprentissage supervisé, non supervisé et par renforcement ;
• classer une observation par la méthode des k plus proches voisins ;
• expliquer le principe d'un arbre de décision et du regroupement par k-moyennes ;
• évaluer un modèle de classification : matrice de confusion, exactitude, précision, rappel, F1 ;
• repérer le surapprentissage et les limites éthiques et pratiques de ces outils.

8.1 Qu'est-ce que l'apprentissage automatique ?

Définition — Apprentissage automatique (machine learning) : branche de l'intelligence artificielle dans laquelle un programme apprend une règle de décision à partir d'exemples (des données), au lieu que cette règle soit écrite à la main par un programmeur.

Une banque qui veut prédire le risque de défaut d'un emprunteur peut écrire des règles (« refuser si l'endettement dépasse 40 % ») ou laisser un algorithme les découvrir à partir de milliers de dossiers passés dont on connaît l'issue. Les usages en économie et en gestion sont nombreux : notation de crédit (scoring), détection de fraude, prévision de la demande, segmentation de la clientèle, recommandation de produits, tarification.

On distingue trois familles :

En apprentissage supervisé, on parle de régression quand la variable à prédire est quantitative (prix d'un appartement, ventes du mois) et de classification quand elle est qualitative (défaut ou non, spam ou non). La régression linéaire du cours d'économétrie est ainsi la méthode d'apprentissage supervisé la plus ancienne.

8.2 Les k plus proches voisins (k-NN)

Méthode de classification très intuitive : pour classer une nouvelle observation, on cherche les $k$ observations connues les plus proches (en général au sens de la distance euclidienne) et l'on retient la classe majoritaire parmi elles.

$$d(x, y) = \sqrt{\sum_{j} (x_j - y_j)^2}$$

Deux précautions : choisir $k$ (souvent impair pour éviter les égalités) et normaliser les variables. Si l'une est exprimée en milliers de DH et l'autre en pourcentage, la variable aux plus grandes valeurs domine la distance ; on centre et réduit chaque variable (on retranche la moyenne et on divise par l'écart-type) avant de calculer les distances.

8.3 Les arbres de décision

Un arbre de décision pose une suite de questions simples (« revenu supérieur à 8 000 DH ? », « salarié ? ») qui découpent la population en groupes de plus en plus homogènes. Chaque feuille donne une prédiction. On choisit à chaque nœud la question qui réduit le plus l'impureté des groupes, mesurée par exemple par l'indice de Gini :

$$Gini = 1 - \sum_{c} p_c^2$$

où $p_c$ est la proportion de la classe $c$ dans le groupe (0 pour un groupe pur, 0,5 au maximum avec deux classes équilibrées). L'impureté après découpage est la moyenne des impuretés des sous-groupes, pondérée par leurs effectifs.

Les arbres sont lisibles : on peut expliquer une décision à un client ou à un régulateur. Leur défaut est leur instabilité ; les forêts aléatoires combinent des centaines d'arbres pour des prédictions plus fiables, au prix de la lisibilité.

8.4 Le regroupement par k-moyennes (k-means)

Méthode non supervisée pour partager $n$ observations en $k$ groupes homogènes, par exemple pour segmenter une clientèle :

1. Choisir $k$ centres initiaux (au hasard ou parmi les observations).
2. Affecter chaque observation au centre le plus proche.
3. Recalculer chaque centre comme la moyenne des observations de son groupe.
4. Répéter les étapes 2 et 3 jusqu'à ce que les groupes ne changent plus.

L'algorithme converge toujours, mais vers un résultat qui peut dépendre des centres initiaux : on le relance plusieurs fois. Le nombre de groupes $k$ est un choix de l'analyste.

8.5 Évaluer un modèle de classification

Un modèle s'évalue sur des données qu'il n'a pas vues : on sépare l'échantillon en une base d'apprentissage (par exemple 70 à 80 %) et une base de test. La matrice de confusion croise les classes réelles et prédites :

$$\text{Exactitude} = \frac{VP + VN}{n} \qquad \text{Précision} = \frac{VP}{VP + FP} \qquad \text{Rappel} = \frac{VP}{VP + FN} \qquad F_1 = \frac{2 \times \text{Précision} \times \text{Rappel}}{\text{Précision} + \text{Rappel}}$$

• La précision répond à : parmi les cas signalés, combien sont vrais ?
• Le rappel (ou sensibilité) répond à : parmi les vrais cas, combien sont détectés ?

L'exactitude seule est trompeuse quand les classes sont déséquilibrées : si 2 % des transactions sont frauduleuses, un modèle qui déclare tout « normal » a une exactitude de 98 % et ne détecte aucune fraude.

8.6 Surapprentissage, données et éthique

Définition — Surapprentissage : un modèle trop complexe « apprend par cœur » les données d'apprentissage, bruit compris ; il est excellent sur ces données et médiocre sur des données nouvelles.

On le détecte en comparant les performances sur la base d'apprentissage et sur la base de test, et on le combat en simplifiant le modèle (élagage d'un arbre, choix de $k$) ou par validation croisée.

La qualité d'un modèle dépend d'abord de celle des données : un historique incomplet ou biaisé produit des décisions biaisées (un modèle de recrutement entraîné sur des embauches passées peut reproduire des discriminations). Au Maroc, la loi 09-08 relative à la protection des personnes physiques à l'égard du traitement des données à caractère personnel encadre la collecte et l'usage de ces données, sous le contrôle de la CNDP. Enfin, l'explicabilité compte : une banque doit pouvoir justifier un refus de crédit.

8.7 Méthode : construire et évaluer un modèle simple

1. Définir la variable à prédire et le type de problème (classification, régression, regroupement).
2. Préparer les données : variables pertinentes, valeurs manquantes, normalisation.
3. Séparer apprentissage et test.
4. Appliquer la méthode (k-NN, arbre, k-moyennes) et calculer les prédictions sur le test.
5. Construire la matrice de confusion ; calculer exactitude, précision, rappel et F1.
6. Comparer à un modèle naïf (toujours la classe majoritaire) et discuter des erreurs les plus coûteuses.

Les pièges à éviter

• Évaluer un modèle sur les données qui ont servi à l'entraîner.
• Juger un modèle sur la seule exactitude avec des classes déséquilibrées.
• Calculer des distances sur des variables d'échelles très différentes sans les normaliser.
• Confondre précision et rappel (les dénominateurs diffèrent : prédits positifs ou réels positifs).
• Oublier que corrélation n'est pas causalité : un modèle prédictif n'explique pas forcément les mécanismes.