Amostragem de Gibbs

Posição no roteiroMódulo 2 de 3 · Tópico 2 de 2

2.2 Amostragem de Gibbs

—Nota do lab— / 100XP total—Sequência—

Atualizar uma peça de cada vez

Algumas posteriores são difíceis no todo, mas fáceis uma peça de cada vez. A amostragem de Gibbs aproveita isso. Com duas incógnitas, digamos uma média $\mu$ e uma precisão $\tau$ (um sobre a variância), não é preciso a distribuição conjunta. Sorteie $\mu$ da sua distribuição dado o $\tau$ atual. Depois sorteie $\tau$ da sua distribuição dado o novo $\mu$ . Repita. Cada sorteio é condicional e sempre é aceito: ao contrário do Metropolis-Hastings, não há passo de aceitar ou rejeitar. Os pares coletados formam uma cadeia que explora a posterior conjunta.

\mu\mid\tau,x\sim N\!\left(\frac{P_0m_0+n\tau\bar x}{P_0+n\tau},\ \frac{1}{P_0+n\tau}\right),\qquad \tau\mid\mu,x\sim\mathrm{Gamma}\!\left(a+\frac n2,\ b+\frac{\sum(x_i-\mu)^{2}}{2}\right)

(1)

O Gibbs funciona melhor quando as peças não estão muito amarradas. Se duas incógnitas são muito correlacionadas, cada sorteio condicional só consegue um passo minúsculo ao longo da crista estreita, então a cadeia faz zigue-zague e anda devagar. Um exemplo com duas variáveis: se $x$ e $y$ são normais bivariadas com correlação $\rho$ , então $x$ dado $y$ é normal com média $\rho y$ e desvio padrão $\sqrt{1-\rho^{2}}$ . Com $\rho=0{,}8$ e $y=2$ o sorteio de $x$ tem média $1{,}6$ e desvio padrão $0{,}6$ . Com $\rho=0{,}99$ o desvio cai para $0{,}14$ e os passos ficam minúsculos.

Os dois passos condicionais em númerosSejam

n=25

retornos com média

\bar x=0{,}5

e a variância atual

\sigma^{2}=4

, isto é

\tau=0{,}25

. Com o prior

N(0,10^{2})

a precisão do prior é

P_0=0{,}01

. A precisão dos dados é

n\tau=6{,}25

. Então

\mu

é sorteado de uma normal com média

6{,}25\times0{,}5/6{,}26=0{,}499

e desvio padrão

1/\sqrt{6{,}26}=0{,}400

. Depois, com

a=b=1

\sum(x_i-\mu)^{2}=100

, a precisão é sorteada de uma

\mathrm{Gamma}(13{,}5,\ 51)

, cuja média é

13{,}5/51=0{,}265

, uma variância de cerca de

3{,}8

Amostragem de Gibbs: sortear cada incógnita em turnos da sua distribuição condicional dadas as outras.
Sem rejeição: cada sorteio condicional é mantido, mas cada condicional precisa ser fácil de sortear.
Uma forte correlação entre incógnitas faz a cadeia fazer zigue-zague e misturar devagar.

Lab: o que é avaliado

Uma média condicional15 pts
Uma dispersão condicional10 pts
Sortear a média15 pts
Sortear a precisão15 pts
Sem passo de rejeição10 pts
Uma varredura10 pts
Associar o vocabulário10 pts
Forte correlação desacelera o Gibbs15 pts

0/ 8 respondidas

1Resposta numérica15 ptsSem resposta

$x$ e $y$ são normais bivariadas com correlação $\rho=0{,}8$ . Dado $y=2$ , qual é a média $\rho y$ da distribuição condicional de $x$ ?

m =

aceito: ± 0.01

2Resposta numérica10 ptsSem resposta

Qual é o desvio padrão $\sqrt{1-\rho^{2}}$ dessa distribuição condicional? Dê duas casas decimais.

s =

aceito: ± 0.005

3Resposta numérica15 ptsSem resposta

Com $n=25$ , $\bar x=0{,}5$ , $\tau=0{,}25$ e o prior $N(0,10^{2})$ , a condicional de $\mu$ tem precisão $0{,}01+25\times0{,}25=6{,}26$ . Qual é sua média $6{,}25\times0{,}5\,/\,6{,}26$ ? Dê três casas decimais.

m =

aceito: ± 0.002

4Resposta numérica15 ptsSem resposta

Com $a=b=1$ , $n=25$ e $\sum(x_i-\mu)^{2}=100$ , a condicional de $\tau$ é $\mathrm{Gamma}(a+n/2,\ b+100/2)$ . Qual é sua média, a forma dividida pela taxa? Dê três casas decimais.

t =

aceito: ± 0.002

5Escolha10 ptsSem resposta

Por que a amostragem de Gibbs não precisa de passo de aceitar ou rejeitar?

6Ordenar os passos10 ptsSem resposta

Coloque em ordem os passos de um amostrador de Gibbs.

Arraste para reordenar, ou foque um item, Espaço para levantá-lo, setas para movê-lo e Espaço para soltá-lo.

1Anotar o par
2Sortear a média dada a precisão
3Escolher valores iniciais
4Sortear a precisão dada a nova média
5Repetir muitas vezes e descartar o burn-in

7Associar10 ptsSem resposta

Associe cada termo ao seu significado.

Escolha o par de cada item da esquerda.

Amostragem de Gibbs

Distribuição condicional

Varredura

Mistura lenta

8Explicar com palavras15 ptsSem resposta

Em uma ou duas frases, explique por que um amostrador de Gibbs é lento quando duas incógnitas são muito correlacionadas.

Avaliado por:As duas incógnitas estão ligadas por uma forte correlaçãoCada sorteio condicional só dá um passo minúsculo, então a cadeia faz zigue-zague0 / 400 caracteres

Modo matemáticaEntrada por teclado ou LaTeXTarefa 1 de 8 · Ctrl ⏎ para verificar

Amostragem de Gibbs

Posição no roteiroMódulo 2 de 3 · Tópico 2 de 2

2.2 Amostragem de Gibbs

—Nota do lab— / 100XP total—Sequência—

Atualizar uma peça de cada vez

\mu\mid\tau,x\sim N\!\left(\frac{P_0m_0+n\tau\bar x}{P_0+n\tau},\ \frac{1}{P_0+n\tau}\right),\qquad \tau\mid\mu,x\sim\mathrm{Gamma}\!\left(a+\frac n2,\ b+\frac{\sum(x_i-\mu)^{2}}{2}\right)

(1)

Os dois passos condicionais em númerosSejam

n=25

retornos com média

\bar x=0{,}5

e a variância atual

\sigma^{2}=4

, isto é

\tau=0{,}25

. Com o prior

N(0,10^{2})

a precisão do prior é

P_0=0{,}01

. A precisão dos dados é

n\tau=6{,}25

. Então

\mu

é sorteado de uma normal com média

6{,}25\times0{,}5/6{,}26=0{,}499

e desvio padrão

1/\sqrt{6{,}26}=0{,}400

. Depois, com

a=b=1

\sum(x_i-\mu)^{2}=100

, a precisão é sorteada de uma

\mathrm{Gamma}(13{,}5,\ 51)

, cuja média é

13{,}5/51=0{,}265

, uma variância de cerca de

3{,}8

Amostragem de Gibbs: sortear cada incógnita em turnos da sua distribuição condicional dadas as outras.
Sem rejeição: cada sorteio condicional é mantido, mas cada condicional precisa ser fácil de sortear.
Uma forte correlação entre incógnitas faz a cadeia fazer zigue-zague e misturar devagar.

Lab: o que é avaliado

Uma média condicional15 pts
Uma dispersão condicional10 pts
Sortear a média15 pts
Sortear a precisão15 pts
Sem passo de rejeição10 pts
Uma varredura10 pts
Associar o vocabulário10 pts
Forte correlação desacelera o Gibbs15 pts

0/ 8 respondidas

1Resposta numérica15 ptsSem resposta

$x$ e $y$ são normais bivariadas com correlação $\rho=0{,}8$ . Dado $y=2$ , qual é a média $\rho y$ da distribuição condicional de $x$ ?

m =

aceito: ± 0.01

2Resposta numérica10 ptsSem resposta

Qual é o desvio padrão $\sqrt{1-\rho^{2}}$ dessa distribuição condicional? Dê duas casas decimais.

s =

aceito: ± 0.005

3Resposta numérica15 ptsSem resposta

m =

aceito: ± 0.002

4Resposta numérica15 ptsSem resposta

Com $a=b=1$ , $n=25$ e $\sum(x_i-\mu)^{2}=100$ , a condicional de $\tau$ é $\mathrm{Gamma}(a+n/2,\ b+100/2)$ . Qual é sua média, a forma dividida pela taxa? Dê três casas decimais.

t =

aceito: ± 0.002

5Escolha10 ptsSem resposta

Por que a amostragem de Gibbs não precisa de passo de aceitar ou rejeitar?

6Ordenar os passos10 ptsSem resposta

Coloque em ordem os passos de um amostrador de Gibbs.

Arraste para reordenar, ou foque um item, Espaço para levantá-lo, setas para movê-lo e Espaço para soltá-lo.

1Anotar o par
2Sortear a média dada a precisão
3Escolher valores iniciais
4Sortear a precisão dada a nova média
5Repetir muitas vezes e descartar o burn-in

7Associar10 ptsSem resposta

Associe cada termo ao seu significado.

Escolha o par de cada item da esquerda.

Amostragem de Gibbs

Distribuição condicional

Varredura

Mistura lenta

8Explicar com palavras15 ptsSem resposta

Em uma ou duas frases, explique por que um amostrador de Gibbs é lento quando duas incógnitas são muito correlacionadas.

Avaliado por:As duas incógnitas estão ligadas por uma forte correlaçãoCada sorteio condicional só dá um passo minúsculo, então a cadeia faz zigue-zague0 / 400 caracteres

Modo matemáticaEntrada por teclado ou LaTeXTarefa 1 de 8 · Ctrl ⏎ para verificar

Amostragem de Gibbs

Atualizar uma peça de cada vez

Lab: o que é avaliado

Entre para executar o seu código.

Amostragem de Gibbs

Atualizar uma peça de cada vez

Lab: o que é avaliado

Entre para executar o seu código.