事前分布・尤度・事後分布

公平に考えを改める

ベイズの定理は、証拠を見て考えを改めるためのレシピです。まず事前分布、つまりデータを見る前の信念から始めます。次に、それぞれの真実のもとでそのデータがどれくらい起こりやすいかを考えます。これが尤度です。両者を掛け、全体の和が $1$ になるよう調整すると、証拠を見た後の信念である事後分布が得られます。調整に使う数が周辺尤度（エビデンス）で、あらゆる真実にわたるデータの全確率です。

戦略が良い（$60\%$ の日に勝つ）か悪い（$50\%$ の日に勝つ）かのどちらかだとします。データを見る前は、良い確率を $30\%$ と考えます。その後、$10$ 日中 $7$ 日勝ちました。この結果は、良い場合（$0.215$）のほうが悪い場合（$0.117$）より起こりやすいものの差は小さく、良い戦略はもともと可能性が低かったので、事後の「良い」確率は $44\%$ にとどまります。$100$ 日中 $70$ 勝なら同じ勝率でも $99.5\%$ になります。データが増えると尤度が事前分布を上回ります。

• 事前・尤度・事後：以前の信念、各真実がデータをどれだけ説明するか、今の信念。
• 周辺尤度 $P(D)$ は、事後分布の和を $1$ にするための調整数にすぎない。
• データが事前分布に勝つ：データが増えるほど事前分布の影響は小さくなる。

ラボ：採点される内容

• 尤度15点
• 周辺尤度15点
• 事後確率15点
• 事後オッズ15点
• データが増えると10点
• 用語を結び付ける15点
• 10日では証明にならない理由15点