Pourquoi le découpage est tout l'enjeu
Un modèle se juge sur des données qu'il n'a pas vues. En finance il y a trois ensembles : les données d'entraînement pour ajuster, les données de validation pour choisir les réglages et les données de test, utilisées une fois, pour annoncer le résultat. Ils doivent suivre le temps : entraîner sur le passé, valider sur la période suivante, tester sur la dernière. Un découpage aléatoire met des jours de la même tempête dans les deux ensembles : le modèle reconnaît des voisins au lieu d'apprendre une règle. La fuite signifie que des informations de la période de validation ou de test atteignent l'étape d'entraînement. Elle prend quatre formes courantes : un normaliseur ajusté sur tous les jours, une variable qui utilise un prix futur, une colonne proche de la cible connue seulement après coup, et des étiquettes qui se chevauchent dans le temps.
Les étiquettes qui se chevauchent demandent une attention particulière. Si l'étiquette est le rendement des mois suivants, l'étiquette d'une ligne d'entraînement et celle d'une ligne de test partagent des mois dès que . Les dernières lignes d'entraînement avant la période de test connaissent donc une partie du résultat du test. Le remède est la purge, qui retire ces lignes, et l'embargo, qui garde une marge de sécurité, comme le montrent les sujets suivants. Un petit nombre donne l'ordre de grandeur : avec lignes mensuelles, un découpage place la période de test à la ligne , et pour deux lignes d'entraînement près de chaque frontière se chevauchent.
- Découper par le temps : entraîner sur le passé, valider sur la période suivante, tester sur la dernière, et ne regarder le test qu'une fois.
- Quatre fuites : prétraitement ajusté, variables futures, colonnes proches de la cible et étiquettes qui se chevauchent.
- Un score mélangé est un signal d'alerte : si mélanger les jours augmente beaucoup le score, le modèle reconnaît des voisins.
Lab : ce qui est noté
- Où commence la période de test10 pts
- La taille de l'entraînement10 pts
- Ce que le normaliseur apprend du futur10 pts
- Étiquettes qui se chevauchent15 pts
- De combien un mélange flatte10 pts
- Le bon découpage pour une série temporelle10 pts
- Un flux sans fuite10 pts
- Sortes de fuite10 pts
- Pourquoi le mélange gonfle le score15 pts