Comparación de modelos y factores de Bayes

¿Qué modelo explica mejor los datos?

A menudo hay que elegir entre dos ideas sobre el mundo. Digamos que el modelo $M_0$ afirma que una estrategia gana exactamente la mitad de los días, $\theta=0{,}5$. El modelo $M_1$ admite cualquier tasa de aciertos, con una previa plana. Cada modelo recibe una puntuación: la verosimilitud marginal $P(D\mid M)$, la probabilidad que dio a los datos realmente vistos, promediada sobre su propia previa. El cociente de las dos puntuaciones es el factor de Bayes $BF_{10}=P(D\mid M_1)/P(D\mid M_0)$. Dice cuánto favorecen los datos a $M_1$. Multiplíquelo por los odds previos para obtener los odds posteriores.

Dos cosas distinguen a los factores de Bayes de simplemente elegir el modelo que mejor ajusta. Primero, penalizan la complejidad sin ninguna regla extra. Un modelo flexible reparte su previa entre muchos resultados posibles, así que cada uno recibe poca probabilidad, y solo gana si los datos encajan lo bastante bien para compensarlo. Segundo, dependen de la previa: una previa muy ancha en $M_1$ se penaliza más. Como escala aproximada, un factor entre $1$ y $3$ apenas merece mención, de $3$ a $10$ es moderado, de $10$ a $100$ fuerte y por encima de $100$ decisivo.

• Verosimilitud marginal: la probabilidad que un modelo dio a los datos, promediada sobre su propia previa.
• Factor de Bayes: cociente de dos verosimilitudes marginales. Los odds posteriores son los previos por él.
• Navaja de Occam incorporada: los modelos flexibles diluyen su previa y necesitan que los datos lo justifiquen.

Lab: qué se califica

• El modelo fijo15 pts
• El modelo flexible15 pts
• El factor de Bayes15 pts
• La probabilidad posterior15 pts
• Leer un factor de 42715 pts
• Emparejar el vocabulario10 pts
• Por qué se penaliza la complejidad15 pts