انكماش ليدويت-وولف

سحب التقدير نحو شيء بسيط

يقرر القصّ قيمة قيمة هل هي إشارة. أما الانكماش فيسلك طريقًا أنعم: يمزج مصفوفة العينة المشوّشة $S$ بهدف بسيط حسن الشرطية $F$ ، $\Sigma^{*}=(1-\delta)S+\delta F$ ، حيث تقول الشدة $\delta\in[0,1]$ مقدار الثقة بالهدف. والهدف الكلاسيكي هو مصفوفة وحدة مضروبة بعدد $F=\mu I$ مع $\mu=\operatorname{tr}(S)/N$ أي متوسط التباين: يقول إن لكل الأصول التباين نفسه وإنها غير مترابطة. وهذا خاطئ قطعًا لكنه مستقر، والقليل منه يلغي كثيرًا من الضجيج.

\Sigma^{*}=(1-\delta)S+\delta\mu I,\qquad \mu=\frac{\operatorname{tr}S}{N},\qquad \delta=\min\!\Big(1,\frac{b^{2}}{d^{2}}\Big),\qquad d^{2}=\frac{\lVert S-\mu I\rVert_F^{2}}{N}

(1)

الشدة ليست معاملًا حرًّا. فقد أثبت ليدويت ووولف أن أفضل $\delta$ لهذا الهدف له صيغة مغلقة: البسط $b^2$ يقيس مقدار ضجيج $S$ (متوسط المسافة المربعة لمصفوفات اليوم الواحد $\mathbf x_t\mathbf x_t^{T}$ عن $S$ مقسومًا على $T$ ومقيّدًا بـ $d^2$ ) والمقام $d^2$ يقيس بُعد $S$ عن الهدف. فالمصفوفة $S$ المشوّشة القريبة من هدفها تنال $\delta$ كبيرة. وللانكماش ثلاث خصائص مرتبة: يحفظ الأثر، ويقرّب كل قيمة ذاتية من المتوسط ( $\lambda\mapsto(1-\delta)\lambda+\delta\mu$ ) فتصغر الكبيرة وتكبر الصغيرة، ويجعل $\Sigma^{*}$ معرّفة موجبة لأي $\delta>0$ حتى لو كانت $S$ شاذة. وكلما كبر $T$ هبط حد الضجيج و $\delta\to0$ .

مثال 2 في 2لتكن

S=\begin{pmatrix}4&1\\1&2\end{pmatrix}

فيكون

\mu=(4+2)/2=3

S-\mu I=\begin{pmatrix}1&1\\1&-1\end{pmatrix}

ومربع نظيم فروبينيوس لها 4 ومن ثم

d^2=4/2=2

. إذا كان حد الضجيج

b^2=0.5

فالشدة

\delta=0.5/2=0.25

. أما مع

\delta=0.2

فيكون

\Sigma^{*}=0.8S+0.2\cdot3I=\begin{pmatrix}3.8&0.8\\0.8&2.2\end{pmatrix}

. القيمتان الذاتيتان لـ

S

هما

3\pm\sqrt2=4.414

1.586

، ولـ

\Sigma^{*}

هما

0.8(4.414)+0.6=4.131

0.8(1.586)+0.6=1.869

. فيتحسن عدد الشرطية من

2.78

إلى

2.21

المزج: $\Sigma^{*}=(1-\delta)S+\delta F$ بالهدف $F=\mu I$ حيث $\mu=\operatorname{tr}S/N$ .
الشدة: $\delta=\min(1,b^2/d^2)$ ؛ وتنال المصفوفات المشوّشة القريبة من الهدف انكماشًا أكبر.
الآثار: يُحفظ الأثر وتقترب القيم الذاتية من المتوسط وتصير المصفوفة معرّفة موجبة لأي $\delta>0$ ؛ و $\delta\to0$ مع كبر $T$ .

تحيّز مقصوديضيف الانكماش تحيّزًا عن قصد لأن الهدف خاطئ، مقابل خفض كبير في التباين. فينخفض الخطأ التربيعي المتوقع للتقدير، وفي تقدير التباين المشترك لأصول كثيرة تكون الصفقة عادةً مواتية جدًا. إنها صفقة التحيّز والتباين نفسها في انحدار ريدج، وهي سبب كون ليدويت-وولف المقدِّر الافتراضي للتباين المشترك في مكتبات كثيرة.

المختبر: ما الذي يُقيَّم

مستوى الهدف10 نقطة
مصفوفة منكمشة20 نقطة
الشدة15 نقطة
قيمة ذاتية منكمشة15 نقطة
عدد الشرطية الجديد15 نقطة
بيانات أكثر انكماش أقل15 نقطة
مقايضة التحيّز والتباين10 نقطة

سحب التقدير نحو شيء بسيط

\Sigma^{*}=(1-\delta)S+\delta\mu I,\qquad \mu=\frac{\operatorname{tr}S}{N},\qquad \delta=\min\!\Big(1,\frac{b^{2}}{d^{2}}\Big),\qquad d^{2}=\frac{\lVert S-\mu I\rVert_F^{2}}{N}

(1)

مثال 2 في 2لتكن

S=\begin{pmatrix}4&1\\1&2\end{pmatrix}

فيكون

\mu=(4+2)/2=3

S-\mu I=\begin{pmatrix}1&1\\1&-1\end{pmatrix}

ومربع نظيم فروبينيوس لها 4 ومن ثم

d^2=4/2=2

. إذا كان حد الضجيج

b^2=0.5

فالشدة

\delta=0.5/2=0.25

. أما مع

\delta=0.2

فيكون

\Sigma^{*}=0.8S+0.2\cdot3I=\begin{pmatrix}3.8&0.8\\0.8&2.2\end{pmatrix}

. القيمتان الذاتيتان لـ

S

هما

3\pm\sqrt2=4.414

1.586

، ولـ

\Sigma^{*}

هما

0.8(4.414)+0.6=4.131

0.8(1.586)+0.6=1.869

. فيتحسن عدد الشرطية من

2.78

إلى

2.21

المزج: $\Sigma^{*}=(1-\delta)S+\delta F$ بالهدف $F=\mu I$ حيث $\mu=\operatorname{tr}S/N$ .
الشدة: $\delta=\min(1,b^2/d^2)$ ؛ وتنال المصفوفات المشوّشة القريبة من الهدف انكماشًا أكبر.
الآثار: يُحفظ الأثر وتقترب القيم الذاتية من المتوسط وتصير المصفوفة معرّفة موجبة لأي $\delta>0$ ؛ و $\delta\to0$ مع كبر $T$ .

المختبر: ما الذي يُقيَّم

مستوى الهدف10 نقطة
مصفوفة منكمشة20 نقطة
الشدة15 نقطة
قيمة ذاتية منكمشة15 نقطة
عدد الشرطية الجديد15 نقطة
بيانات أكثر انكماش أقل15 نقطة
مقايضة التحيّز والتباين10 نقطة

انكماش ليدويت-وولف

سحب التقدير نحو شيء بسيط

المختبر: ما الذي يُقيَّم

سجّل الدخول لتشغيل الكود الخاص بك.

انكماش ليدويت-وولف

سحب التقدير نحو شيء بسيط

المختبر: ما الذي يُقيَّم

سجّل الدخول لتشغيل الكود الخاص بك.