الانحدار الخطي البيزي

انحدار بعدم يقين صادق

الانحدار العادي يعطي ميلًا واحدًا، أما الانحدار البيزي فيعطي توزيعًا كاملًا للميل. خذ عائد سهم $y$ وعائد السوق $x$ مع $y=\beta x+e$ حيث للضجيج $e$ تباين $\sigma^{2}$. ابدأ بتوزيع مسبق لبيتا، مثلًا طبيعي متمركز عند $m_0=1$ وتباينه $v_0$. تدفع البيانات الميل نحو قيمة المربعات الصغرى ويعيده المسبق إلى الوراء. وهذا هو المتوسط المرجح بالدقة نفسه في الموضوعات السابقة. فدقة المسبق $1/v_0$ ودقة البيانات $\sum x^{2}/\sigma^{2}$ وهذه الأخيرة كبيرة حين يتحرك السوق كثيرًا.

هناك أمران جديران بالملاحظة. الأول أن المسبق المتمركز عند $0$ يعطي بالضبط انحدار ridge: الميل هو $\sum xy\,/\,(\sum x^{2}+\lambda)$ مع $\lambda=\sigma^{2}/v_0$. فانحدار ridge هو انحدار بيزي مسبقه لا يثق بالميول الكبيرة. والثاني أن للتنبؤ عند $x^{*}$ جديد مصدرين للانتشار: الضجيج $\sigma^{2}$ وعدم اليقين في الميل الذي يضيف $x^{*2}/P_n$. والجزء الثاني ينمو مع مربع $x^{*}$ فتكون التنبؤات البعيدة عن البيانات أقل يقينًا.

• الميل البيزي: توزيع دقته هي دقة المسبق زائد دقة البيانات.
• انحدار ridge هو حالة مسبق متمركز عند $0$ مع $\lambda=\sigma^{2}/v_0$.
• التنبؤات تحمل الضجيج مع عدم اليقين في الميل والثاني ينمو مع $x^{*2}$.

المختبر: ما الذي يُقيَّم

• الدقة اللاحقة15 نقطة
• الميل اللاحق15 نقطة
• عدم اليقين في الميل10 نقطة
• ميل ridge15 نقطة
• انتشار تنبؤ10 نقطة
• مسبق شديد الثقة10 نقطة
• طابق المصطلحات10 نقطة
• بعيدًا عن البيانات15 نقطة