الإمكان الأعظم

المعاملات التي تجعل البيانات أرجح

لنفترض أن البيانات تأتي من عائلة توزيعات لها معامل مجهول $\theta$ (متوسط وتباين التوزيع الطبيعي أو معدل بواسون). فالإمكان $L(\theta)=\prod_i f(x_i;\theta)$ هو احتمال البيانات التي رأيتها فعلًا بدلالة $\theta$. وتختار طريقة الإمكان الأعظم $\hat\theta$ الذي يجعل البيانات المرصودة أرجح ما يمكن. وهي عمود الانحدار ونماذج التقلب ومعظم التعلم الآلي.

عمليًا نعظّم لوغاريتم الإمكان $\ell$: فجداء كثير من الأعداد الصغيرة ينخفض عدديًا ويصعب اشتقاقه، أما مجموع اللوغاريتمات فمستقر وله موضع الأعظم نفسه لأن اللوغاريتم دالة متزايدة. وتساوي المشتقة الصفر تعطي صيغًا مغلقة للحالات المعتادة. ففي عيّنة بواسون $\hat\lambda=\bar x$. وفي عيّنة برنولي $\hat p$ هي نسبة النجاحات. وفي عيّنة طبيعية $\hat\mu=\bar x$ و$\hat\sigma^2=\frac1n\sum(x_i-\bar x)^2$ بالقسمة على $n$ لا $n-1$ فيقلّ تقدير التباين قليلًا في العيّنات الصغيرة.

• الإمكان: احتمال البيانات المرصودة بدلالة المعامل.
• مقدّر الإمكان الأعظم: المعامل الذي يعظّمه؛ عظّم لوغاريتم الإمكان للاستقرار.
• الخصائص: متسق وطبيعي مقاربيًا بشروط خفيفة لكنه ليس دائمًا غير متحيز في العيّنات الصغيرة.

المختبر: ما الذي يُقيَّم

• معدل بواسون10 نقطة
• تباين طبيعي15 نقطة
• معدل ربح10 نقطة
• لوغاريتم إمكان15 نقطة
• ماذا يفعل مقدّر الإمكان الأعظم15 نقطة
• خصائص مقدّر الإمكان الأعظم15 نقطة
• لماذا نعظّم لوغاريتم الإمكان20 نقطة