哪个模型更能解释数据
你常常得在对世界的两种看法之间做选择。设模型 M0 声称某策略恰好有一半的日子赢，即 θ=0.5；模型 M1 允许任意胜率，并取平坦先验。每个模型得一个分数：边际似然 P(D∣M)，即它对你实际看到的数据给出的概率，并在它自己的先验上取平均。两个分数之比就是贝叶斯因子 BF10=P(D∣M1)/P(D∣M0)，它说明数据在多大程度上偏向 M1。乘以先验赔率就得到后验赔率。
P(D∣M)=∫P(D∣θ)p(θ∣M)dθ,BF10=P(D∣M0)P(D∣M1),P(M0∣D)P(M1∣D)=P(M0)P(M1)⋅BF10(1) 贝叶斯因子与单纯挑选拟合最好的模型有两点不同。第一，它不需要额外规则就会惩罚复杂度：灵活的模型把先验分散到许多可能的结果上，每个结果只分到很少的概率，只有数据拟合得足够好才能弥补并胜出。第二，它依赖先验：M1 的先验过宽会被罚得更重。粗略的尺度是：因子在 1 到 3 之间几乎不值一提，3 到 10 为中等，10 到 100 为强，超过 100 为决定性。
20 天赢 14 天，再看 100 天赢 70 天20 天赢
14 天时，
M0 给出
(1420)0.520=0.0370，取平坦先验的
M1 给出
1/(n+1)=1/21=0.0476。贝叶斯因子为
1.29，几乎算不上证据；先验赔率相等时
P(M1∣D)=1.29/2.29=0.56。
100 天赢
70 天时，
M0 给出
2.3×10−5，
M1 给出
1/101=0.0099，因子约为
427，具有决定性。同样
70% 的胜率，天数越多越有说服力。
- 边际似然：模型对数据给出的概率，在其自身先验上取平均。
- 贝叶斯因子：两个边际似然之比，后验赔率 = 先验赔率 × 它。
- 内置的奥卡姆剃刀：灵活模型把先验摊薄，需要数据来证明这样做值得。
实验：评分内容
- 固定模型15 分
- 灵活模型15 分
- 贝叶斯因子15 分
- 后验概率15 分
- 解读因子 42715 分
- 配对术语10 分
- 为什么复杂度会被惩罚15 分
