有公式的更新
后验通常要靠计算机,但对少数几对先验与似然,答案是一个简洁的公式,因为后验与先验属于同一个分布族。这样的一对叫共轭。最有名的是胜率 θ 的情形:贝塔先验配上胜负数据。Beta(a,b) 先验相当于你已经见过 a 次胜和 b 次负。每多一次胜,a 加 1;每多一次负,b 加 1。均值是 a/(a+b)。
Beta(a,b)→Beta(a+k,b+n−k),m=a/(a+b)(1) 第二对适用于噪声已知时的未知均值,比如平均收益。先验是 N(μ0,τ02),数据给出样本均值 xˉ,标准误差为 s。把精度(1/方差)理解为你对某个信息的信任程度。后验精度是两个精度之和;后验均值是先验均值与样本均值按精度加权的平均,所以越精确的来源权重越大。
τn21=τ021+s21,μn=1/τ02+1/s2μ0/τ02+xˉ/s2(2) 胜率与平均收益从平均
0.5 的
Beta(5,5) 出发,观察到
20 天里赢
14 天。后验是均值
19/30=0.633 的
Beta(19,11):只看数据是
0.70,先验把它拉回向
0.5。再看平均收益:先验
6%±5%,数据
12%±4%。两个精度为
1/0.052=400 和
1/0.042=625。后验精度
1025,后验均值
(400⋅6+625⋅12)/1025=9.66%,标准差
1/1025=3.12%。数据更精确,所以结果更靠近数据。
- 共轭:后验与先验同属一个分布族,更新就是一个公式。
- 贝塔先验:已经见过的胜负次数,加上新的次数就是后验。
- 正态情形:精度相加,并按精度加权平均各均值。
实验:评分内容
- 后验胜率15 分
- 胜率的离散度15 分
- 后验平均收益15 分
- 后验离散度15 分
- 平坦的贝塔先验10 分
- 配对术语15 分
- 介于先验与数据之间15 分