Qué variable usó el modelo
Tras ajustar, se quiere saber en qué variables se apoya el modelo, para comprobar que tiene sentido y quitar lastre. Los modelos de árboles dan una importancia por impureza: la ganancia total de corte que produjo cada variable, dividida por la suma sobre las variables. Es gratis pero está sesgada a favor de variables con muchos valores distintos y se mide con datos de entrenamiento, así que una variable de ruido puede parecer importante. La importancia por permutación es más honesta. Tome un modelo ajustado y un conjunto reservado, mezcle los valores de una variable, lo que rompe su vínculo con el objetivo, y anote cuánto baja la puntuación: . Repita la mezcla varias veces y promedie.
Dos advertencias. Primero, las variables correlacionadas comparten el mérito: si dos columnas llevan la misma información, mezclar una deja que la otra haga el trabajo, y ambas parecen poco importantes. Agrupe esas variables o quite una. Segundo, la importancia describe el modelo, no el mundo. Una variable que importa a un mal modelo no la convierte en causa de los rendimientos. Con datos transversales, mezcle la variable dentro de cada mes, de modo que la mezcla conserve el nivel del mes y solo rompa el orden entre acciones. Informe también la dispersión de las repeticiones, porque una importancia pequeña con mayor dispersión es ruido.
- Mezclar y puntuar: la importancia es cuánto baja la puntuación reservada al mezclar una variable.
- Los gemelos correlacionados se ocultan entre sí: agrúpelos o quite uno antes de leer los números.
- La importancia trata del modelo: es una comprobación, no una prueba de que una variable cause los rendimientos.
Lab: qué se califica
- La media de las mezclas10 pts
- La importancia por permutación15 pts
- La dispersión de las repeticiones15 pts
- Una proporción de impureza10 pts
- Una variable gemela10 pts
- En qué importancia confiar10 pts
- El procedimiento de permutación10 pts
- Importante para el modelo, no para los rendimientos20 pts