Muestreo de Gibbs

Posición en la rutaMódulo 2 de 3 · Tema 2 de 2

2.2 Muestreo de Gibbs

—Puntuación del lab— / 100XP total—Racha—

Actualizar una pieza a la vez

Algunas posteriores son difíciles en conjunto pero fáciles una pieza a la vez. El muestreo de Gibbs lo aprovecha. Con dos incógnitas, digamos una media $\mu$ y una precisión $\tau$ (uno sobre la varianza), no hace falta su distribución conjunta. Saque $\mu$ de su distribución dado el $\tau$ actual. Luego saque $\tau$ de su distribución dado el nuevo $\mu$ . Repita. Cada valor es condicional y siempre se acepta: a diferencia de Metropolis-Hastings no hay paso de aceptar o rechazar. Los pares recogidos forman una cadena que explora la posterior conjunta.

\mu\mid\tau,x\sim N\!\left(\frac{P_0m_0+n\tau\bar x}{P_0+n\tau},\ \frac{1}{P_0+n\tau}\right),\qquad \tau\mid\mu,x\sim\mathrm{Gamma}\!\left(a+\frac n2,\ b+\frac{\sum(x_i-\mu)^{2}}{2}\right)

(1)

Gibbs funciona mejor cuando las piezas no están muy atadas entre sí. Si dos incógnitas están muy correlacionadas, cada valor condicional solo puede dar un paso minúsculo a lo largo de la cresta estrecha, así que la cadena zigzaguea y avanza despacio. Un ejemplo con dos variables: si $x$ e $y$ son normales bivariantes con correlación $\rho$ , entonces $x$ dado $y$ es normal con media $\rho y$ y desviación típica $\sqrt{1-\rho^{2}}$ . Con $\rho=0{,}8$ e $y=2$ , el valor de $x$ tiene media $1{,}6$ y desviación típica $0{,}6$ . Con $\rho=0{,}99$ la desviación baja a $0{,}14$ y los pasos son minúsculos.

Los dos pasos condicionales con númerosSean

n=25

rendimientos con media

\bar x=0{,}5

y la varianza actual

\sigma^{2}=4

, es decir

\tau=0{,}25

. Con la previa

N(0,10^{2})

la precisión previa es

P_0=0{,}01

. La precisión de los datos es

n\tau=6{,}25

. Así que

\mu

se saca de una normal con media

6{,}25\times0{,}5/6{,}26=0{,}499

y desviación típica

1/\sqrt{6{,}26}=0{,}400

. Luego, con

a=b=1

\sum(x_i-\mu)^{2}=100

, la precisión se saca de una

\mathrm{Gamma}(13{,}5,\ 51)

, cuya media es

13{,}5/51=0{,}265

, una varianza de unos

3{,}8

Muestreo de Gibbs: sacar cada incógnita por turno de su distribución condicional dadas las otras.
Sin rechazo: cada valor condicional se conserva, pero cada condicional debe ser fácil de muestrear.
Una fuerte correlación entre incógnitas hace que la cadena zigzaguee y mezcle despacio.

Lab: qué se califica

Una media condicional15 pts
Una dispersión condicional10 pts
Sacar la media15 pts
Sacar la precisión15 pts
Sin paso de rechazo10 pts
Un barrido10 pts
Emparejar el vocabulario10 pts
Una fuerte correlación frena a Gibbs15 pts

0/ 8 respondidos

1Respuesta numérica15 ptsSin responder

$x$ e $y$ son normales bivariantes con correlación $\rho=0{,}8$ . Dado $y=2$ , ¿cuál es la media $\rho y$ de la distribución condicional de $x$ ?

m =

aceptado: ± 0.01

2Respuesta numérica10 ptsSin responder

¿Cuál es la desviación típica $\sqrt{1-\rho^{2}}$ de esa distribución condicional? Dé dos decimales.

s =

aceptado: ± 0.005

3Respuesta numérica15 ptsSin responder

Con $n=25$ , $\bar x=0{,}5$ , $\tau=0{,}25$ y la previa $N(0,10^{2})$ , la condicional de $\mu$ tiene precisión $0{,}01+25\times0{,}25=6{,}26$ . ¿Cuál es su media $6{,}25\times0{,}5\,/\,6{,}26$ ? Dé tres decimales.

m =

aceptado: ± 0.002

4Respuesta numérica15 ptsSin responder

Con $a=b=1$ , $n=25$ y $\sum(x_i-\mu)^{2}=100$ , la condicional de $\tau$ es $\mathrm{Gamma}(a+n/2,\ b+100/2)$ . ¿Cuál es su media, la forma dividida por la tasa? Dé tres decimales.

t =

aceptado: ± 0.002

5Elección10 ptsSin responder

¿Por qué el muestreo de Gibbs no necesita paso de aceptar o rechazar?

6Ordenar los pasos10 ptsSin responder

Ponga en orden los pasos de un muestreador de Gibbs.

Arrastra para reordenar, o enfoca un elemento, pulsa Espacio para levantarlo, las flechas para moverlo y Espacio para soltarlo.

1Anotar el par
2Sacar la media dada la precisión
3Elegir valores iniciales
4Sacar la precisión dada la nueva media
5Repetir muchas veces y quitar el burn-in

7Emparejar10 ptsSin responder

Empareje cada término con su significado.

Elige la pareja de cada elemento de la izquierda.

Muestreo de Gibbs

Distribución condicional

Barrido

Mezcla lenta

8Explicar con palabras15 ptsSin responder

En una o dos frases, explique por qué un muestreador de Gibbs es lento cuando dos incógnitas están muy correlacionadas.

Se califica por:Las dos incógnitas están atadas por una fuerte correlaciónCada valor condicional solo da un paso minúsculo, así que la cadena zigzaguea0 / 400 caracteres

Modo matemáticasEntrada por teclado o LaTeXEjercicio 1 de 8 · Ctrl ⏎ para comprobar

Muestreo de Gibbs

Posición en la rutaMódulo 2 de 3 · Tema 2 de 2

2.2 Muestreo de Gibbs

—Puntuación del lab— / 100XP total—Racha—

Actualizar una pieza a la vez

\mu\mid\tau,x\sim N\!\left(\frac{P_0m_0+n\tau\bar x}{P_0+n\tau},\ \frac{1}{P_0+n\tau}\right),\qquad \tau\mid\mu,x\sim\mathrm{Gamma}\!\left(a+\frac n2,\ b+\frac{\sum(x_i-\mu)^{2}}{2}\right)

(1)

Los dos pasos condicionales con númerosSean

n=25

rendimientos con media

\bar x=0{,}5

y la varianza actual

\sigma^{2}=4

, es decir

\tau=0{,}25

. Con la previa

N(0,10^{2})

la precisión previa es

P_0=0{,}01

. La precisión de los datos es

n\tau=6{,}25

. Así que

\mu

se saca de una normal con media

6{,}25\times0{,}5/6{,}26=0{,}499

y desviación típica

1/\sqrt{6{,}26}=0{,}400

. Luego, con

a=b=1

\sum(x_i-\mu)^{2}=100

, la precisión se saca de una

\mathrm{Gamma}(13{,}5,\ 51)

, cuya media es

13{,}5/51=0{,}265

, una varianza de unos

3{,}8

Muestreo de Gibbs: sacar cada incógnita por turno de su distribución condicional dadas las otras.
Sin rechazo: cada valor condicional se conserva, pero cada condicional debe ser fácil de muestrear.
Una fuerte correlación entre incógnitas hace que la cadena zigzaguee y mezcle despacio.

Lab: qué se califica

Una media condicional15 pts
Una dispersión condicional10 pts
Sacar la media15 pts
Sacar la precisión15 pts
Sin paso de rechazo10 pts
Un barrido10 pts
Emparejar el vocabulario10 pts
Una fuerte correlación frena a Gibbs15 pts

0/ 8 respondidos

1Respuesta numérica15 ptsSin responder

$x$ e $y$ son normales bivariantes con correlación $\rho=0{,}8$ . Dado $y=2$ , ¿cuál es la media $\rho y$ de la distribución condicional de $x$ ?

m =

aceptado: ± 0.01

2Respuesta numérica10 ptsSin responder

¿Cuál es la desviación típica $\sqrt{1-\rho^{2}}$ de esa distribución condicional? Dé dos decimales.

s =

aceptado: ± 0.005

3Respuesta numérica15 ptsSin responder

m =

aceptado: ± 0.002

4Respuesta numérica15 ptsSin responder

Con $a=b=1$ , $n=25$ y $\sum(x_i-\mu)^{2}=100$ , la condicional de $\tau$ es $\mathrm{Gamma}(a+n/2,\ b+100/2)$ . ¿Cuál es su media, la forma dividida por la tasa? Dé tres decimales.

t =

aceptado: ± 0.002

5Elección10 ptsSin responder

¿Por qué el muestreo de Gibbs no necesita paso de aceptar o rechazar?

6Ordenar los pasos10 ptsSin responder

Ponga en orden los pasos de un muestreador de Gibbs.

Arrastra para reordenar, o enfoca un elemento, pulsa Espacio para levantarlo, las flechas para moverlo y Espacio para soltarlo.

1Anotar el par
2Sacar la media dada la precisión
3Elegir valores iniciales
4Sacar la precisión dada la nueva media
5Repetir muchas veces y quitar el burn-in

7Emparejar10 ptsSin responder

Empareje cada término con su significado.

Elige la pareja de cada elemento de la izquierda.

Muestreo de Gibbs

Distribución condicional

Barrido

Mezcla lenta

8Explicar con palabras15 ptsSin responder

En una o dos frases, explique por qué un muestreador de Gibbs es lento cuando dos incógnitas están muy correlacionadas.

Se califica por:Las dos incógnitas están atadas por una fuerte correlaciónCada valor condicional solo da un paso minúsculo, así que la cadena zigzaguea0 / 400 caracteres

Modo matemáticasEntrada por teclado o LaTeXEjercicio 1 de 8 · Ctrl ⏎ para comprobar

Muestreo de Gibbs

Actualizar una pieza a la vez

Lab: qué se califica

Inicia sesión para ejecutar tu código.

Muestreo de Gibbs

Actualizar una pieza a la vez

Lab: qué se califica

Inicia sesión para ejecutar tu código.