Por qué la partición lo es todo
Un modelo se juzga con datos que no ha visto. En finanzas hay tres conjuntos: datos de entrenamiento para ajustar, de validación para elegir ajustes y de prueba, usados una vez, para informar el resultado. Deben seguir el tiempo: entrenar con el pasado, validar con el tramo siguiente, probar con el último. Una partición aleatoria pone días de la misma tormenta en ambos conjuntos, así que el modelo reconoce vecinos en lugar de aprender una regla. La fuga significa que información del período de validación o de prueba llega al paso de entrenamiento. Tiene cuatro formas comunes: un escalador ajustado con todos los días, una variable que usa un precio futuro, una columna parecida al objetivo que solo se conoce después y etiquetas que se solapan en el tiempo.
Las etiquetas solapadas merecen especial cuidado. Si la etiqueta es el rendimiento de los próximos meses, la etiqueta de una fila de entrenamiento y la de una fila de prueba comparten meses siempre que . Las últimas filas de entrenamiento antes del período de prueba conocen, pues, parte del resultado de la prueba. El remedio es la purga, que elimina esas filas, y el embargo, que deja un margen de seguridad, como muestran los temas siguientes. Un número pequeño da la dimensión: con filas mensuales, una partición sitúa el período de prueba en la fila , y con dos filas de entrenamiento cerca de cada frontera se solapan.
- Dividir por tiempo: entrenar con el pasado, validar con el tramo siguiente, probar con el último y mirar la prueba una sola vez.
- Cuatro fugas: preprocesamiento ajustado, variables futuras, columnas parecidas al objetivo y etiquetas solapadas.
- Una puntuación mezclada es una señal de alarma: si mezclar los días sube mucho la puntuación, el modelo reconoce vecinos.
Lab: qué se califica
- Dónde empieza el período de prueba10 pts
- El tamaño del entrenamiento10 pts
- Lo que el escalador aprende del futuro10 pts
- Etiquetas solapadas15 pts
- Cuánto halaga una mezcla10 pts
- La partición correcta para una serie temporal10 pts
- Un flujo sin fugas10 pts
- Tipos de fuga10 pts
- Por qué mezclar infla la puntuación15 pts