Regresión logística para la dirección

De una puntuación a una probabilidad

La regresión logística predice un sí o un no, por ejemplo si el rendimiento de mañana es positivo. Primero construye una puntuación lineal $z=a+bx$, igual que una regresión lineal, y luego la convierte en probabilidad con la sigmoide $p=1/(1+e^{-z})$. La puntuación es el logaritmo de las probabilidades relativas: $z=\ln\frac{p}{1-p}$, así que $e^{z}$ es la razón de probabilidades. Una puntuación de $0$ significa $p=0{,}5$. El modelo se ajusta minimizando la log-pérdida, $-\ln p$ cuando el resultado fue sí y $-\ln(1-p)$ cuando fue no, lo que castiga mucho los errores cometidos con seguridad. La clase que se informa depende de un umbral, normalmente $0{,}5$, que se puede mover.

La exactitud sola engaña cuando una clase es frecuente. Un modelo que siempre dice alza parece bueno si la mayoría de los días son alcistas, y es inútil para operar. Juzgue un modelo de dirección por la log-pérdida frente a la referencia de tasa constante, por la calibración de sus probabilidades y, sobre todo, por el rendimiento de una estrategia que actúe con ellas tras costes. En una decisión por umbral, el costo de una compra equivocada y el de una oportunidad perdida rara vez son iguales, así que el mejor umbral a menudo no es $0{,}5$.

• Puntuación y luego sigmoide: una puntuación lineal se convierte en una probabilidad entre $0$ y $1$.
• La log-pérdida castiga la seguridad: una respuesta errónea y segura cuesta mucho más que una vacilante.
• Superar la referencia: compare con predecir siempre la tasa base, no con $50\%$.

Lab: qué se califica

• Una probabilidad a partir de una puntuación15 pts
• La razón de probabilidades10 pts
• Una log-pérdida15 pts
• Dónde duda el modelo10 pts
• La referencia constante10 pts
• Por qué la exactitud engaña10 pts
• Emparejar el vocabulario10 pts
• Por qué el modelo apenas supera la referencia20 pts