L'échantillonnage préférentiel

Position dans le parcoursModule 2 sur 3 · Sujet 1 sur 5

2.1 L'échantillonnage préférentiel

—Score du lab— / 100XP total—Série—

Estimer avec des estimations pondérées

On veut souvent une moyenne sous une loi $p$ dont on ne sait pas tirer d'échantillons. En filtrage, $p$ est la croyance sur l'état caché après les données du jour. L'astuce de l'échantillonnage préférentiel est de tirer plutôt selon une loi facile $g$ , appelée proposition, et de réparer l'écart avec des poids. Un point $x_i$ que la proposition produit trop souvent reçoit un petit poids, un point produit trop rarement reçoit un grand poids : $w_i=p(x_i)/g(x_i)$ . Le plus souvent $p$ n'est connue qu'à une constante près, donc on divise les poids par leur somme, ce qui les fait sommer à $1$ .

w_i=\frac{p(x_i)}{g(x_i)},\quad \tilde w_i=\frac{w_i}{\sum_j w_j},\quad E_p[f]\approx\sum_i\tilde w_i\,f(x_i),\quad \mathrm{ESS}=\frac{1}{\sum_i\tilde w_i^{2}}

(1)

Dans un filtre, la proposition est la prévision (où l'état se trouve probablement avant les données) et la cible est la croyance après les données. Leur rapport est simplement la vraisemblance de l'observation : le poids d'une particule dit à quel point elle explique $y$ . La taille d'échantillon effective, ESS, dit combien de tirages équipondérés vaut l'échantillon pondéré. Elle vaut $N$ si tous les poids sont égaux et $1$ si un seul point porte tout. Quand l'ESS est petite, l'estimation repose sur quelques points et devient bruitée. Cela arrive quand la proposition rate les zones où la cible a l'essentiel de sa masse, par exemple quand les données sont une grande surprise.

Quatre particules et une observationQuatre tirages de la prévision valent

x=-1,0,1,2

et l'on observe

y=1

avec une variance de bruit

r=1

. Les poids non normalisés sont

e^{-(1-x)^2/2}=0{,}135,\ 0{,}607,\ 1,\ 0{,}607

, de somme

2{,}348

. Les poids normalisés sont

0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258

. La moyenne pondérée est

0{,}885

et le moment d'ordre deux pondéré

1{,}516

, donc la variance vaut

1{,}516-0{,}885^{2}=0{,}734

. La taille d'échantillon effective est

1/(0{,}058^2+0{,}258^2+0{,}426^2+0{,}258^2)=3{,}14

sur

4

Les poids réparent l'écart : tirer selon une $g$ facile, pondérer par $p/g$ , diviser par la somme.
Dans un filtre le poids est la vraisemblance : la particule qui explique le mieux l'observation reçoit le plus de poids.
Surveillez l'ESS : $1/\sum\tilde w^{2}$ chute quand quelques points dominent, signe d'une mauvaise proposition.

Lab : ce qui est noté

Un poids normalisé15 pts
La moyenne pondérée15 pts
La taille d'échantillon effective15 pts
La variance pondérée10 pts
Une proposition dangereuse10 pts
Les étapes de l'échantillonnage préférentiel10 pts
Associer le vocabulaire10 pts
Pourquoi les poids sont nécessaires15 pts

0/ 8 traités

1Réponse numérique15 ptsSans réponse

Les poids non normalisés des quatre particules sont $0{,}135,\ 0{,}607,\ 1,\ 0{,}607$ , de somme $2{,}348$ . Quel est le poids normalisé de la première particule ? Donnez trois décimales.

w =

accepté : ± 0.001

2Réponse numérique15 ptsSans réponse

Les particules $x=-1,0,1,2$ ont pour poids normalisés $0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258$ . Que vaut la moyenne pondérée $\sum\tilde w_i x_i$ ? Donnez trois décimales.

m =

accepté : ± 0.003

3Réponse numérique15 ptsSans réponse

Avec les poids normalisés $0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258$ , la somme des carrés des poids est $0{,}318$ . Que vaut la taille d'échantillon effective $1/\sum\tilde w_i^{2}$ ? Donnez deux décimales.

ess =

accepté : ± 0.02

4Réponse numérique10 ptsSans réponse

Le moment d'ordre deux pondéré $\sum\tilde w_i x_i^{2}$ vaut $1{,}516$ et la moyenne pondérée $0{,}885$ . Que vaut la variance pondérée ? Donnez trois décimales.

v =

accepté : ± 0.004

5Choix10 ptsSans réponse

Quelle proposition risque le plus de donner une très petite taille d'échantillon effective ?

6Remettre les étapes dans l'ordre10 ptsSans réponse

Mettez dans l'ordre les étapes de l'échantillonnage préférentiel auto-normalisé.

Faites glisser pour réordonner, ou placez le focus sur un élément, Espace pour le soulever, les flèches pour le déplacer et Espace pour le déposer.

1Diviser chaque poids par la somme des poids
2Tirer des points selon la proposition facile
3Moyenner la quantité avec les poids normalisés
4Calculer un poids pour chaque point : cible sur proposition

7Associer10 ptsSans réponse

Associez chaque terme à son sens.

Choisissez le partenaire de chaque élément de gauche.

Proposition

Cible

Poids d'importance

Taille d'échantillon effective

8Expliquer avec des mots15 ptsSans réponse

En une ou deux phrases, expliquez pourquoi il faut pondérer les tirages par $p/g$ quand on échantillonne la proposition $g$ au lieu de la cible $p$ .

Noté sur :Les tirages viennent de la mauvaise loi : certaines zones apparaissent trop souvent, d'autres trop rarementLes poids p sur g réduisent ou augmentent chaque point pour corriger cela0 / 400 caractères

Mode mathsSaisie au clavier ou en LaTeXExercice 1 sur 8 · Ctrl ⏎ pour vérifier

L'échantillonnage préférentiel

Position dans le parcoursModule 2 sur 3 · Sujet 1 sur 5

2.1 L'échantillonnage préférentiel

—Score du lab— / 100XP total—Série—

Estimer avec des estimations pondérées

w_i=\frac{p(x_i)}{g(x_i)},\quad \tilde w_i=\frac{w_i}{\sum_j w_j},\quad E_p[f]\approx\sum_i\tilde w_i\,f(x_i),\quad \mathrm{ESS}=\frac{1}{\sum_i\tilde w_i^{2}}

(1)

Quatre particules et une observationQuatre tirages de la prévision valent

x=-1,0,1,2

et l'on observe

y=1

avec une variance de bruit

r=1

. Les poids non normalisés sont

e^{-(1-x)^2/2}=0{,}135,\ 0{,}607,\ 1,\ 0{,}607

, de somme

2{,}348

. Les poids normalisés sont

0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258

. La moyenne pondérée est

0{,}885

et le moment d'ordre deux pondéré

1{,}516

, donc la variance vaut

1{,}516-0{,}885^{2}=0{,}734

. La taille d'échantillon effective est

1/(0{,}058^2+0{,}258^2+0{,}426^2+0{,}258^2)=3{,}14

sur

4

Les poids réparent l'écart : tirer selon une $g$ facile, pondérer par $p/g$ , diviser par la somme.
Dans un filtre le poids est la vraisemblance : la particule qui explique le mieux l'observation reçoit le plus de poids.
Surveillez l'ESS : $1/\sum\tilde w^{2}$ chute quand quelques points dominent, signe d'une mauvaise proposition.

Lab : ce qui est noté

Un poids normalisé15 pts
La moyenne pondérée15 pts
La taille d'échantillon effective15 pts
La variance pondérée10 pts
Une proposition dangereuse10 pts
Les étapes de l'échantillonnage préférentiel10 pts
Associer le vocabulaire10 pts
Pourquoi les poids sont nécessaires15 pts

0/ 8 traités

1Réponse numérique15 ptsSans réponse

Les poids non normalisés des quatre particules sont $0{,}135,\ 0{,}607,\ 1,\ 0{,}607$ , de somme $2{,}348$ . Quel est le poids normalisé de la première particule ? Donnez trois décimales.

w =

accepté : ± 0.001

2Réponse numérique15 ptsSans réponse

Les particules $x=-1,0,1,2$ ont pour poids normalisés $0{,}058,\ 0{,}258,\ 0{,}426,\ 0{,}258$ . Que vaut la moyenne pondérée $\sum\tilde w_i x_i$ ? Donnez trois décimales.

m =

accepté : ± 0.003

3Réponse numérique15 ptsSans réponse

ess =

accepté : ± 0.02

4Réponse numérique10 ptsSans réponse

Le moment d'ordre deux pondéré $\sum\tilde w_i x_i^{2}$ vaut $1{,}516$ et la moyenne pondérée $0{,}885$ . Que vaut la variance pondérée ? Donnez trois décimales.

v =

accepté : ± 0.004

5Choix10 ptsSans réponse

Quelle proposition risque le plus de donner une très petite taille d'échantillon effective ?

6Remettre les étapes dans l'ordre10 ptsSans réponse

Mettez dans l'ordre les étapes de l'échantillonnage préférentiel auto-normalisé.

Faites glisser pour réordonner, ou placez le focus sur un élément, Espace pour le soulever, les flèches pour le déplacer et Espace pour le déposer.

1Diviser chaque poids par la somme des poids
2Tirer des points selon la proposition facile
3Moyenner la quantité avec les poids normalisés
4Calculer un poids pour chaque point : cible sur proposition

7Associer10 ptsSans réponse

Associez chaque terme à son sens.

Choisissez le partenaire de chaque élément de gauche.

Proposition

Cible

Poids d'importance

Taille d'échantillon effective

8Expliquer avec des mots15 ptsSans réponse

En une ou deux phrases, expliquez pourquoi il faut pondérer les tirages par $p/g$ quand on échantillonne la proposition $g$ au lieu de la cible $p$ .

Mode mathsSaisie au clavier ou en LaTeXExercice 1 sur 8 · Ctrl ⏎ pour vérifier

L'échantillonnage préférentiel

Estimer avec des estimations pondérées

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.

L'échantillonnage préférentiel

Estimer avec des estimations pondérées

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.