Muestreo por importancia

Posición en la rutaMódulo 2 de 3 · Tema 1 de 5

2.1 Muestreo por importancia

—Puntuación del lab— / 100XP total—Racha—

Estimar con conjeturas ponderadas

A menudo se quiere un promedio bajo una distribución $p$ de la que no se puede muestrear. En filtrado, $p$ es la creencia sobre el estado oculto tras ver los datos de hoy. El truco del muestreo por importancia es muestrear de una distribución fácil $g$ , llamada propuesta, y reparar la discrepancia con pesos. Un punto $x_i$ que la propuesta produce demasiado a menudo recibe un peso pequeño, y uno que produce muy rara vez recibe un peso grande: $w_i=p(x_i)/g(x_i)$ . Normalmente $p$ solo se conoce salvo una constante, así que los pesos se dividen por su suma, con lo que suman $1$ .

w_i=\frac{p(x_i)}{g(x_i)},\quad \tilde w_i=\frac{w_i}{\sum_j w_j},\quad E_p[f]\approx\sum_i\tilde w_i\,f(x_i),\quad \mathrm{ESS}=\frac{1}{\sum_i\tilde w_i^{2}}

(1)

En un filtro, la propuesta es la predicción (dónde es probable que esté el estado antes de los datos) y el objetivo es la creencia tras los datos. Su cociente es simplemente la verosimilitud de la observación: el peso de una partícula dice cuán bien explica $y$ . El tamaño muestral efectivo, ESS, dice a cuántas muestras equiponderadas equivale la muestra ponderada. Vale $N$ si todos los pesos son iguales y $1$ si un solo punto lo carga todo. Cuando el ESS es pequeño, la estimación descansa en pocos puntos y es ruidosa. Pasa cuando la propuesta no cubre donde el objetivo tiene su masa, por ejemplo cuando los datos son una gran sorpresa.

Cuatro partículas y una observaciónCuatro muestras de la predicción son

x=-1,0,1,2

y se observa

y=1

con varianza de ruido

r=1

. Los pesos sin normalizar son

e^{-(1-x)^2/2}=0{,}135,\ 0{,}607,\ 1,\ 0{,}607

, que suman

2{,}348

. Los pesos normalizados son

0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258

. La media ponderada es

0{,}885

y el segundo momento ponderado

1{,}516

, así que la varianza es

1{,}516-0{,}885^{2}=0{,}734

. El tamaño muestral efectivo es

1/(0{,}058^2+0{,}258^2+0{,}426^2+0{,}258^2)=3{,}14

4

Los pesos reparan la discrepancia: muestrear de una $g$ fácil, ponderar por $p/g$ , dividir por la suma.
En un filtro el peso es la verosimilitud: la partícula que mejor explica la observación recibe más peso.
Vigile el ESS: $1/\sum\tilde w^{2}$ cae cuando unos pocos puntos dominan, señal de una mala propuesta.

Lab: qué se califica

Un peso normalizado15 pts
La media ponderada15 pts
El tamaño muestral efectivo15 pts
La varianza ponderada10 pts
Una propuesta peligrosa10 pts
Los pasos del muestreo por importancia10 pts
Emparejar el vocabulario10 pts
Por qué hacen falta los pesos15 pts

0/ 8 respondidos

1Respuesta numérica15 ptsSin responder

Los pesos sin normalizar de las cuatro partículas son $0{,}135,\ 0{,}607,\ 1,\ 0{,}607$ y suman $2{,}348$ . ¿Cuál es el peso normalizado de la primera partícula? Dé tres decimales.

w =

aceptado: ± 0.001

2Respuesta numérica15 ptsSin responder

Las partículas $x=-1,0,1,2$ tienen pesos normalizados $0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258$ . ¿Cuánto vale la media ponderada $\sum\tilde w_i x_i$ ? Dé tres decimales.

m =

aceptado: ± 0.003

3Respuesta numérica15 ptsSin responder

Con los pesos normalizados $0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258$ , la suma de los cuadrados de los pesos es $0{,}318$ . ¿Cuánto vale el tamaño muestral efectivo $1/\sum\tilde w_i^{2}$ ? Dé dos decimales.

ess =

aceptado: ± 0.02

4Respuesta numérica10 ptsSin responder

El segundo momento ponderado $\sum\tilde w_i x_i^{2}$ es $1{,}516$ y la media ponderada $0{,}885$ . ¿Cuánto vale la varianza ponderada? Dé tres decimales.

v =

aceptado: ± 0.004

5Elección10 ptsSin responder

¿Qué propuesta es más probable que dé un tamaño muestral efectivo diminuto?

6Ordenar los pasos10 ptsSin responder

Ponga en orden los pasos del muestreo por importancia autonormalizado.

Arrastra para reordenar, o enfoca un elemento, pulsa Espacio para levantarlo, las flechas para moverlo y Espacio para soltarlo.

1Dividir cada peso por la suma de los pesos
2Muestrear puntos de la propuesta fácil
3Promediar la cantidad con los pesos normalizados
4Calcular un peso para cada punto: objetivo entre propuesta

7Emparejar10 ptsSin responder

Empareje cada término con su significado.

Elige la pareja de cada elemento de la izquierda.

Propuesta

Objetivo

Peso de importancia

Tamaño muestral efectivo

8Explicar con palabras15 ptsSin responder

En una o dos frases, explique por qué hay que ponderar las muestras por $p/g$ cuando se muestrea la propuesta $g$ en lugar del objetivo $p$ .

Se califica por:Las muestras vienen de la distribución equivocada, así que unas zonas aparecen demasiado y otras muy pocoLos pesos p entre g reducen o aumentan cada punto para corregirlo0 / 400 caracteres

Modo matemáticasEntrada por teclado o LaTeXEjercicio 1 de 8 · Ctrl ⏎ para comprobar

Muestreo por importancia

Posición en la rutaMódulo 2 de 3 · Tema 1 de 5

2.1 Muestreo por importancia

—Puntuación del lab— / 100XP total—Racha—

Estimar con conjeturas ponderadas

w_i=\frac{p(x_i)}{g(x_i)},\quad \tilde w_i=\frac{w_i}{\sum_j w_j},\quad E_p[f]\approx\sum_i\tilde w_i\,f(x_i),\quad \mathrm{ESS}=\frac{1}{\sum_i\tilde w_i^{2}}

(1)

Cuatro partículas y una observaciónCuatro muestras de la predicción son

x=-1,0,1,2

y se observa

y=1

con varianza de ruido

r=1

. Los pesos sin normalizar son

e^{-(1-x)^2/2}=0{,}135,\ 0{,}607,\ 1,\ 0{,}607

, que suman

2{,}348

. Los pesos normalizados son

0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258

. La media ponderada es

0{,}885

y el segundo momento ponderado

1{,}516

, así que la varianza es

1{,}516-0{,}885^{2}=0{,}734

. El tamaño muestral efectivo es

1/(0{,}058^2+0{,}258^2+0{,}426^2+0{,}258^2)=3{,}14

4

Los pesos reparan la discrepancia: muestrear de una $g$ fácil, ponderar por $p/g$ , dividir por la suma.
En un filtro el peso es la verosimilitud: la partícula que mejor explica la observación recibe más peso.
Vigile el ESS: $1/\sum\tilde w^{2}$ cae cuando unos pocos puntos dominan, señal de una mala propuesta.

Lab: qué se califica

Un peso normalizado15 pts
La media ponderada15 pts
El tamaño muestral efectivo15 pts
La varianza ponderada10 pts
Una propuesta peligrosa10 pts
Los pasos del muestreo por importancia10 pts
Emparejar el vocabulario10 pts
Por qué hacen falta los pesos15 pts

0/ 8 respondidos

1Respuesta numérica15 ptsSin responder

Los pesos sin normalizar de las cuatro partículas son $0{,}135,\ 0{,}607,\ 1,\ 0{,}607$ y suman $2{,}348$ . ¿Cuál es el peso normalizado de la primera partícula? Dé tres decimales.

w =

aceptado: ± 0.001

2Respuesta numérica15 ptsSin responder

Las partículas $x=-1,0,1,2$ tienen pesos normalizados $0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258$ . ¿Cuánto vale la media ponderada $\sum\tilde w_i x_i$ ? Dé tres decimales.

m =

aceptado: ± 0.003

3Respuesta numérica15 ptsSin responder

ess =

aceptado: ± 0.02

4Respuesta numérica10 ptsSin responder

El segundo momento ponderado $\sum\tilde w_i x_i^{2}$ es $1{,}516$ y la media ponderada $0{,}885$ . ¿Cuánto vale la varianza ponderada? Dé tres decimales.

v =

aceptado: ± 0.004

5Elección10 ptsSin responder

¿Qué propuesta es más probable que dé un tamaño muestral efectivo diminuto?

6Ordenar los pasos10 ptsSin responder

Ponga en orden los pasos del muestreo por importancia autonormalizado.

Arrastra para reordenar, o enfoca un elemento, pulsa Espacio para levantarlo, las flechas para moverlo y Espacio para soltarlo.

1Dividir cada peso por la suma de los pesos
2Muestrear puntos de la propuesta fácil
3Promediar la cantidad con los pesos normalizados
4Calcular un peso para cada punto: objetivo entre propuesta

7Emparejar10 ptsSin responder

Empareje cada término con su significado.

Elige la pareja de cada elemento de la izquierda.

Propuesta

Objetivo

Peso de importancia

Tamaño muestral efectivo

8Explicar con palabras15 ptsSin responder

En una o dos frases, explique por qué hay que ponderar las muestras por $p/g$ cuando se muestrea la propuesta $g$ en lugar del objetivo $p$ .

Modo matemáticasEntrada por teclado o LaTeXEjercicio 1 de 8 · Ctrl ⏎ para comprobar

Muestreo por importancia

Estimar con conjeturas ponderadas

Lab: qué se califica

Inicia sesión para ejecutar tu código.

Muestreo por importancia

Estimar con conjeturas ponderadas

Lab: qué se califica

Inicia sesión para ejecutar tu código.