فائز البحث مجمَّل
يجرّب البحث عن المعاملات الفائقة إعدادات كثيرة ويقيّم كلًا منها على بيانات التحقق ويحتفظ بالأفضل. والمشكلة أن أفضل درجة بين درجات كثيرة مشوشة متحيزة إلى الأعلى حتى لو لم يكن لأي إعداد مهارة. فإذا كان لـ إعدادًا درجة ضجيج خالص بانحراف معياري فالأفضل المتوقع نحو حيث و. وبضجيج IC قدره يبدو فائز إعداد عديم الفائدة كأنه أي إشارة محترمة غير موجودة. فإعلان درجة التحقق للفائز كأنها أداؤه متفائل وكلما جرّبت إعدادات أكثر ساء الأمر.
هناك ثلاثة علاجات أمينة. الأول الاحتفاظ بمجموعة اختبار لا يراها البحث أبدًا والإعلان عن درجتها وحدها. والثاني التحقق المتقاطع المتداخل: حلقة خارجية تعزل طية اختبار وداخل كل مجموعة تدريب خارجية حلقة داخلية تجري البحث. فتقيس الدرجات الخارجية الإجراء كله بما فيه البحث. والثالث تقليص البحث: إعدادات أقل وشبكات أخشن وإعدادات مؤثرة. وبـ طية خارجية و داخلية و مرشحًا يحتاج التحقق المتداخل إلى ملاءمة فخطط لميزانيته. وقبل أن تبحث اسأل هل يمكن للإعداد أن يهم أصلًا.
- أكبر قيمة للضجيج ليست ضجيجًا: أفضل إعداد بين إعدادات كثيرة عديمة الفائدة يبدو مهارة.
- التحقق المتداخل يقيّم الإجراء كله بما فيه البحث بـ ملاءمة.
- قارن بالضجيج: مكسب أقل من خطأ معياري واحد ليس اكتشافًا.
المختبر: ما الذي يُقيَّم
- أفضل 100 إعداد عديم الفائدة15 نقطة
- أفضل 1010 نقطة
- ملاءمات بحث الشبكة10 نقطة
- ملاءمات التحقق المتداخل15 نقطة
- ما يبقى لتفسيره10 نقطة
- أي بحث أمين10 نقطة
- التحقق المتداخل10 نقطة
- لماذا درجة الفائز مضخمة20 نقطة