重みが崩れるとき
重みは日ごとに掛け合わされます。いくつかの観測をうまく説明できなかった粒子は極小の重みになり、極小の重みは決して回復しません。十分な日数がたつと1つの粒子がほぼ全重みを担い、残りは無駄な計算になります。これが重みの縮退で、有効標本サイズ 1/∑w~2 で測ります。SPYで粒子1000個、リサンプリングなしだと、有効標本サイズは1日後に 960、10日後に 368、50日後に 52、250日後には約 1.3 です。1粒子に崩れたフィルタは雲ではなく、1つの推測にすぎません。
ESS=∑iw~i21,ESS<2N,Nu+i, i=0,…,N−1(1) リサンプリングは縮退を治します。重み w~i の粒子が平均 Nw~i 回現れるような N 個の新しい雲を引き、すべてのコピーに同じ重み 1/N を与えます。引き方はいくつかあります。多項リサンプリングは独立な一様乱数を N 個引きます。系統的リサンプリングは一様乱数 u を1つだけ引き、累積重みの上に等間隔の N 個の指針 (u+i)/N を置きます。層化リサンプリングは N 個の等しい区間のそれぞれから1つずつ引きます。残差リサンプリングはまず各粒子に整数コピー ⌊Nw~i⌋ を与え、余りだけを引きます。系統的が最も安価でよく使われます。
系統的リサンプリングを手計算で粒子を
−1,0,1,2 に4つ置き、重みを
0.058, 0.258, 0.426, 0.258 とします。累積重みは
0.058, 0.316, 0.742, 1 です。
u=0.3 を引くと、指針は
(0.3+i)/4=0.075, 0.325, 0.575, 0.825 です。
0.075 は2番目、
0.325 と
0.575 は3番目、
0.825 は4番目の区間に落ちます。新しい雲は
0,1,1,2 で、
−1 の粒子は消え、重い
1 の粒子は2回コピーされ、期待コピー数
4×0.426=1.7 に近い結果です。危険な例:重みが
0.97, 0.01, 0.01, 0.01 だと有効標本サイズは
1.06 で、どの指針の組でも最初の粒子しか選ばれず、雲は1つの値に縮みます。
- ESS が低いときにリサンプリング:よくある規則は ESS<N/2。毎日行うと多様性を無駄にする。
- 系統的は乱数を1つだけ使う:累積重み上の指針 (u+i)/N で、安価でノイズの小さい抽出ができる。
- 代償は貧困化:少数の粒子の多数のコピーで雲の多様性が乏しくなり、次の伝播段階で再び広げる必要がある。
ラボ:採点される内容
- 期待コピー数15点
- 系統的リサンプリングの指針10点
- 崩れた重み15点
- 生き残る異なる粒子10点
- 今日リサンプリングすべきか10点
- 系統的リサンプリング10点
- 方式を結び付ける15点
- なぜリサンプリングするのか15点