Quelle variable le modèle a-t-il utilisée
Après l'ajustement, on veut savoir sur quelles variables le modèle s'appuie, pour vérifier qu'il est sensé et retirer le poids mort. Les modèles d'arbres donnent une importance par impureté : le gain total de coupure produit par chaque variable, divisé par la somme sur les variables. Elle est gratuite mais biaisée en faveur des variables à nombreuses valeurs distinctes, et mesurée sur les données d'entraînement : une variable de bruit peut paraître importante. L'importance par permutation est plus honnête. Prenez un modèle ajusté et un jeu mis de côté, mélangez les valeurs d'une variable, ce qui casse son lien avec la cible, et notez de combien le score baisse : . Répétez le mélange plusieurs fois et faites la moyenne.
Deux mises en garde. D'abord, les variables corrélées se partagent le mérite : si deux colonnes portent la même information, en mélanger une laisse l'autre faire le travail, et toutes deux paraissent sans importance. Regroupez de telles variables ou retirez-en une. Ensuite, l'importance décrit le modèle, pas le monde. Une variable qui compte pour un mauvais modèle n'est pas une cause des rendements. Avec des données en coupe transversale, mélangez la variable au sein de chaque mois : le mélange garde le niveau du mois et ne casse que le classement entre actions. Donnez aussi la dispersion des répétitions, car une petite importance avec une dispersion plus grande est du bruit.
- Mélanger et noter : l'importance est la baisse du score hors échantillon quand une variable est mélangée.
- Les jumelles corrélées se cachent : regroupez-les ou retirez-en une avant de lire les chiffres.
- L'importance concerne le modèle : c'est un contrôle, pas une preuve qu'une variable cause les rendements.
Lab : ce qui est noté
- La moyenne des mélanges10 pts
- L'importance par permutation15 pts
- La dispersion des répétitions15 pts
- Une part d'impureté10 pts
- Une variable jumelle10 pts
- À quelle importance se fier10 pts
- La procédure de permutation10 pts
- Important pour le modèle, pas pour les rendements20 pts