العقوبات والمسارات والضبط الأمين
مع ستين متغيرًا مفسِّرًا مشوشًا تلائم المربعات الصغرى العادية الضجيج. وتضيف العقوبة ثمنًا للمعاملات الكبيرة. يحاسب Ridge(alpha) على مجموع المربعات: تنكمش كل المعاملات ولا يصل أي منها إلى الصفر. ويحاسب Lasso(alpha) على مجموع القيم المطلقة: كلما كبرت alpha هبطت المعاملات إلى صفر تام واحدًا بعد آخر فيختار اللاسو المتغيرات أيضًا. ويمزج ElasticNet(alpha, l1_ratio) بينهما وهذا يفيد حين تدفع متغيرات مترابطة اللاسو إلى اختيار أحدها عشوائيًا. ولا تعامل العقوبة المعاملات بإنصاف إلا إذا كانت الأعمدة بالمقياس نفسه فتُوحَّد أولًا وبمتوسط التدريب وانحرافه فقط وإلا تسربت صفوف الاختبار إلى المقياس. والمرور على شبكة من alpha مع تسجيل كم معاملًا يبقى أو حجم حل ridge يعطي مسار التنظيم.
كم من العقوبة؟ ليست التي تلائم الماضي أفضل ملاءمة: تلك alpha قريبة من الصفر. تختار alpha باختبار متدحرج: في كل طية توحّد بصفوف التدريب وتلائم عليها وتتنبأ بصفوف الاختبار وتقيّم التوقعات بارتباط الرتب مع النتائج (معامل المعلومات). وإن صفّرت alpha الكبيرة كل المعاملات صارت التوقعات ثابتة وغير معرَّف الارتباط فتُقيَّم بصفر. وفي عائد SPY اليومي مقابل عائدات اليوم السابق لـ 60 أصلًا آخر يحتفظ اللاسو بـ 57 معاملًا عند α=10⁻⁵ و38 عند 10⁻⁴ و15 عند 3.2×10⁻⁴ و7 عند 10⁻³، بينما تهبط نظيمة ridge من 0.0043 إلى 0.0005 دون أن يصير أي معامل صفرًا. ويبلغ IC المتدحرج ذروته عند α=3.2×10⁻⁴ بنحو 0.022: رقم متواضع وأمين ما كانت ملاءمة بلا عقوبة لتظهره أبدًا.
- ridge يقلّص واللاسو يختار وelastic net يفعل الاثنين: تتبّع كلًّا على شبكة من alpha.
- وحّد بصفوف التدريب وحدها: تعتمد العقوبة على المقياس ولا يجوز لصفوف الاختبار أن تحدده.
- اضبط alpha خارج العينة: قيّم بارتباط الرتب المتدحرج واعتبر التوقع الثابت صفرًا.
المختبر: ما الذي يُقيَّم
- التوحيد دون تلصص10 نقطة
- مسار اللاسو15 نقطة
- مسار ridge10 نقطة
- درجة متدحرجة25 نقطة
- اختيار alpha15 نقطة
- ما يبقيه elastic net10 نقطة
- دراسة المسار كاملة15 نقطة