Baum-Welch et EM

Laisser le modèle apprendre ses propres nombres

Jusqu'ici nous avons supposé connaître $\pi$ , $A$ et $B$ . Dans de vraies données, ce n'est pas le cas : nous n'avons que les observations. L'algorithme de Baum-Welch apprend les nombres à partir des données. C'est un exemple d'espérance-maximisation (EM) et il fonctionne en répétant deux étapes. À l'étape E, on utilise les nombres actuels et l'algorithme forward-backward pour calculer la probabilité de chaque état caché et de chaque changement d'état à chaque jour. À l'étape M, on ré-estime les nombres en comptant, mais avec ces probabilités au lieu de comptes entiers.

\pi_i\leftarrow\gamma_1(i),\qquad A_{ij}\leftarrow\frac{\sum_{t=1}^{T-1}\xi_t(i,j)}{\sum_{t=1}^{T-1}\gamma_t(i)},\qquad B_j(k)\leftarrow\frac{\sum_t\gamma_t(j)\,[o_t=k]}{\sum_t\gamma_t(j)}

(1)

Ici $\gamma_t(i)$ est la probabilité lissée de l'état $i$ le jour $t$ et $\xi_t(i,j)$ la probabilité lissée de passer de $i$ à $j$ entre le jour $t$ et $t+1$ . Le nouveau $A_{ij}$ est donc le nombre attendu de passages $i\to j$ divisé par le nombre attendu de jours passés en $i$ . Deux faits sont à retenir. La log-vraisemblance des données ne diminue jamais d'un tour d'EM au suivant, on peut donc s'arrêter quand elle cesse de s'améliorer. Mais l'EM ne fait que grimper au pic le plus proche : il peut finir sur un maximum local, et des valeurs de départ différentes peuvent donner des réponses différentes. En pratique, on essaie plusieurs départs et on garde le meilleur.

Un tour sur Petit, Grand, GrandD'après le sujet précédent, la probabilité lissée de Calme sur les trois jours est

(0{,}430,\ 0{,}118,\ 0{,}097)

. Le nombre attendu de jours calmes est

0{,}645

. La nouvelle probabilité initiale de Calme est

0{,}430

. Le jour 1 est le seul petit mouvement, donc la nouvelle probabilité d'un petit mouvement en Calme est

0{,}430/0{,}645=0{,}667

. Le nombre attendu de passages Calme vers Calme est

0{,}179

et le nombre attendu de jours passés en Calme avant un passage est

0{,}430+0{,}118=0{,}548

, donc le nouveau

A_{CC}=0{,}179/0{,}548=0{,}327

. Avec trois jours de données, ce n'est qu'une illustration, mais de vraies exécutions répètent cela sur des milliers de jours jusqu'à ce que la log-vraisemblance cesse de s'améliorer.

Étape E : avec les nombres actuels, calculer $\gamma$ et $\xi$ par forward-backward.
Étape M : ré-estimer $\pi$ , $A$ et $B$ comme comptes attendus divisés par totaux attendus.
La log-vraisemblance ne baisse jamais, mais l'EM peut s'arrêter sur un maximum local : essayez plusieurs départs.

Lab : ce qui est noté

Jours calmes attendus10 pts
Une nouvelle probabilité d'émission15 pts
Une nouvelle probabilité initiale10 pts
Une nouvelle probabilité de transition15 pts
Ce que garantit l'EM15 pts
Un tour d'EM10 pts
Associer le vocabulaire10 pts
Pourquoi les départs comptent15 pts

Laisser le modèle apprendre ses propres nombres

\pi_i\leftarrow\gamma_1(i),\qquad A_{ij}\leftarrow\frac{\sum_{t=1}^{T-1}\xi_t(i,j)}{\sum_{t=1}^{T-1}\gamma_t(i)},\qquad B_j(k)\leftarrow\frac{\sum_t\gamma_t(j)\,[o_t=k]}{\sum_t\gamma_t(j)}

(1)

Un tour sur Petit, Grand, GrandD'après le sujet précédent, la probabilité lissée de Calme sur les trois jours est

(0{,}430,\ 0{,}118,\ 0{,}097)

. Le nombre attendu de jours calmes est

0{,}645

. La nouvelle probabilité initiale de Calme est

0{,}430

. Le jour 1 est le seul petit mouvement, donc la nouvelle probabilité d'un petit mouvement en Calme est

0{,}430/0{,}645=0{,}667

. Le nombre attendu de passages Calme vers Calme est

0{,}179

et le nombre attendu de jours passés en Calme avant un passage est

0{,}430+0{,}118=0{,}548

, donc le nouveau

A_{CC}=0{,}179/0{,}548=0{,}327

. Avec trois jours de données, ce n'est qu'une illustration, mais de vraies exécutions répètent cela sur des milliers de jours jusqu'à ce que la log-vraisemblance cesse de s'améliorer.

Étape E : avec les nombres actuels, calculer $\gamma$ et $\xi$ par forward-backward.
Étape M : ré-estimer $\pi$ , $A$ et $B$ comme comptes attendus divisés par totaux attendus.
La log-vraisemblance ne baisse jamais, mais l'EM peut s'arrêter sur un maximum local : essayez plusieurs départs.

Lab : ce qui est noté

Jours calmes attendus10 pts
Une nouvelle probabilité d'émission15 pts
Une nouvelle probabilité initiale10 pts
Une nouvelle probabilité de transition15 pts
Ce que garantit l'EM15 pts
Un tour d'EM10 pts
Associer le vocabulaire10 pts
Pourquoi les départs comptent15 pts

Laisser le modèle apprendre ses propres nombres

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.

Baum-Welch et EM

Laisser le modèle apprendre ses propres nombres

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.