使数据出现可能性最大的参数
假设数据来自某个含未知参数 θ 的分布族（如正态分布的均值和方差、泊松分布的速率）。似然函数 L(θ)=∏if(xi;θ) 是实际观测到的数据的概率，视为 θ 的函数。最大似然估计选取使观测数据出现概率最大的 θ^。它是回归、波动率模型以及大部分机器学习背后的主力方法。
ℓ(θ)=i=1∑nlnf(xi;θ),θ^=argθmaxℓ(θ),∂θ∂ℓθ^=0(1) 实践中最大化的是对数似然 ℓ：许多小数的乘积会下溢，也不便求导，而对数之和既稳定，最大值点又相同，因为对数是增函数。令导数为零，常见情形就有闭式解。泊松样本的 λ^=xˉ；伯努利样本的 p^ 是成功的比例；正态样本的 μ^=xˉ，σ^2=n1∑(xi−xˉ)2，分母是 n 而不是 n−1，所以在小样本中方差估计略微偏小。
三个快速的最大似然估计每分钟成交笔数
2,4,3,3 给出泊松速率
λ^=12/4=3。40 笔交易中 12 笔盈利给出
p^=12/40=0.3，其对数似然为
12ln0.3+28ln0.7≈−24.435；任何其他
p 的值都更低。对
1,2,3,4,5，正态的最大似然估计为
μ^=3，
σ^2=10/5=2，而无偏样本方差为
10/4=2.5：最大似然估计略小，差别随
n 增大而消失。
- 似然：观测数据的概率，视为参数的函数。
- MLE：使其最大的参数；为稳定起见最大化对数似然。
- 性质：在温和条件下一致且渐近正态，但在小样本中不一定无偏。
对错误模型的良好拟合仍然是错的最大似然只会在你选定的分布族内找到最优参数。如果日收益率是厚尾的而你拟合了正态分布，得到的是最好的那个正态分布，它的方差仍然会低估暴跌风险。在信任拟合结果之前，要把拟合模型与数据对比（尾部计数、直方图），并考虑学生 t 这类尾部更厚的分布族。 实验：评分内容
- 泊松速率10 分
- 正态方差15 分
- 胜率10 分
- 对数似然15 分
- 最大似然做什么15 分
- MLE 的性质15 分
- 为什么最大化对数似然20 分
