どのモデルがデータをよく説明するか
世界についての2つの考えのどちらかを選ぶ必要がよくあります。モデル M0 は、戦略がちょうど半分の日に勝つ（θ=0.5）と主張します。モデル M1 は、平らな事前分布のもとで任意の勝率を許します。各モデルは、実際に見たデータに与えた確率を自分の事前分布で平均した周辺尤度 P(D∣M) という点数を得ます。2つの点数の比がベイズファクター BF10=P(D∣M1)/P(D∣M0) で、データが M1 をどれだけ支持するかを示します。これに事前オッズを掛けると事後オッズになります。
P(D∣M)=∫P(D∣θ)p(θ∣M)dθ,BF10=P(D∣M0)P(D∣M1),P(M0∣D)P(M1∣D)=P(M0)P(M1)⋅BF10(1) ベイズファクターが、単に最もよく当てはまるモデルを選ぶのと違う点が2つあります。第一に、追加の規則なしに複雑さを罰します。柔軟なモデルは事前分布を多くの結果に広く配分するので、各結果の確率がわずかになり、データがそれを埋め合わせるほどよく合う場合だけ勝ちます。第二に、事前分布に依存し、M1 の事前分布が非常に広いとより強く罰せられます。目安として、係数が 1〜3 はほとんど言及に値せず、3〜10 は中程度、10〜100 は強い、100 超は決定的です。
20日で14勝、そして100日で70勝20 日で
14 勝なら、
M0 は
(1420)0.520=0.0370 を与えます。平らな事前分布の
M1 は
1/(n+1)=1/21=0.0476 です。ベイズファクターは
1.29 でほとんど証拠になりません。事前オッズが等しければ
P(M1∣D)=1.29/2.29=0.56 です。
100 日で
70 勝なら、
M0 は
2.3×10−5、
M1 は
1/101=0.0099 で、係数は約
427 と決定的です。同じ勝率
70% でも、日数が多いほど説得力が大きく増します。
- 周辺尤度：モデルがデータに与えた確率を、そのモデルの事前分布で平均したもの。
- ベイズファクター：2つの周辺尤度の比。事後オッズ＝事前オッズ×これ。
- 組み込みのオッカムの剃刀：柔軟なモデルは事前分布を薄く広げ、データがそれを正当化する必要がある。
ラボ：採点される内容
- 固定モデル15点
- 柔軟なモデル15点
- ベイズファクター15点
- 事後確率15点
- 係数427を読む15点
- 用語を結び付ける10点
- なぜ複雑さが罰せられるのか15点
