مقارنة النماذج وعوامل بايز

أي نموذج يفسر البيانات بصورة أفضل؟

كثيرًا ما يجب أن تختار بين فكرتين عن العالم. لنفترض أن النموذج $M_0$ يزعم أن استراتيجية تربح نصف الأيام بالضبط $\theta=0.5$. والنموذج $M_1$ يسمح بأي معدل ربح مع مسبق مسطح. ينال كل نموذج درجة: الإمكان الهامشي $P(D\mid M)$ أي الاحتمال الذي أعطاه للبيانات التي رأيتها فعلًا مأخوذًا كمتوسط على مسبقه هو. ونسبة الدرجتين هي عامل بايز $BF_{10}=P(D\mid M_1)/P(D\mid M_0)$. وهو يبيّن مقدار ترجيح البيانات لـ $M_1$. اضربه في الأرجحية المسبقة لتحصل على الأرجحية اللاحقة.

أمران يميزان عوامل بايز عن مجرد اختيار النموذج الأفضل ملاءمة. أولًا أنها تعاقب التعقيد دون أي قاعدة إضافية. فالنموذج المرن يوزّع مسبقه على نتائج كثيرة ممكنة فينال كل منها احتمالًا ضئيلًا، ولا يفوز إلا إذا لاءمت البيانات بما يكفي لتعويض ذلك. وثانيًا أنها تعتمد على المسبق فالمسبق الواسع جدًا على $M_1$ يُعاقب أكثر. وكمقياس تقريبي: العامل بين $1$ و$3$ لا يكاد يستحق الذكر، ومن $3$ إلى $10$ معتدل، ومن $10$ إلى $100$ قوي، وفوق $100$ حاسم.

• الإمكان الهامشي: الاحتمال الذي أعطاه نموذج للبيانات مأخوذًا كمتوسط على مسبقه.
• عامل بايز: نسبة إمكانين هامشيين. والأرجحية اللاحقة تساوي المسبقة في العامل.
• موس أوكام المدمج: النماذج المرنة تُرقّق مسبقها وتحتاج إلى أن تبرر البيانات ذلك.

المختبر: ما الذي يُقيَّم

• النموذج الثابت15 نقطة
• النموذج المرن15 نقطة
• عامل بايز15 نقطة
• الاحتمال اللاحق15 نقطة
• قراءة عامل قدره 42715 نقطة
• طابق المصطلحات10 نقطة
• لماذا يُعاقب التعقيد15 نقطة