ما الذي يبحث عنه المحسِّن
لمسألة التحسين عددٌ نريد تصغيره هو دالة الهدف f(w)، ومتغيرات w نستطيع تغييرها. قد تكون دالة الهدف خسارة المربعات الصغرى، أو تباين المحفظة wTΣw، أو الفرق بين أسعار النموذج وأسعار السوق في المعايرة. وتكبير شيء ما هو المسألة نفسها بعكس الإشارة، لأن تعظيم f يساوي تصغير −f.
∇f(w)=(∂w1∂f,…,∂wn∂f),Hij=∂wi∂wj∂2f(1) يشير التدرج إلى الاتجاه الذي تزداد فيه f أسرع ما يمكن، فيكون −∇f اتجاه أشدّ هبوط. وعند النهاية الصغرى يكون التدرج صفرًا، وهذا شرط الرتبة الأولى. غير أن التدرج الصفري وحده لا يكفي لأن النهايات العظمى ونقاط السرج تملكه أيضًا. ويفرّق بينها الهسيان H: إن كان H موجبًا معرَّفًا (كل قيمه الذاتية موجبة) فالنقطة نهاية صغرى محلية، وإن كان سالبًا معرَّفًا ففيها نهاية عظمى، وإن كانت له قيم ذاتية بالإشارتين فالنقطة سرج.
مثال بمتغيرينلتكن
f(x,y)=(x−1)2+2(y+2)2. فيكون
∇f=(2(x−1),4(y+2)). عند النقطة
(3,0) التدرج هو
(4,8)، فالتحرك عكسه يخفض
f. ولا ينعدم التدرج إلا عند
(1,−2). وهناك
H=diag(2,4) بقيم ذاتية موجبة، فالنقطة
(1,−2) هي النهاية الصغرى و
f=0 عندها.
- نقطة ساكنة: ∇f=0. شرط لازم للنهاية الصغرى وغير كافٍ.
- التصنيف: H الموجبة التعريف نهاية صغرى محلية، وغير المعرَّفة سرج.
- في متغير واحد: f′(x)=0 مع f′′(x)>0 نهاية صغرى.
تحقق من تدرجك عدديًامعظم أخطاء التحسين سببها تدرج خاطئ. قارن صيغتك بالفرق المركزي (f(x+h)−f(x−h))/(2h) مع h صغير مثل 10−5: يجب أن يتطابقا في عدة أرقام. افعل ذلك مرة لكل دالة هدف جديدة قبل أن تثق بمحلّ يستعملها. المختبر: ما الذي يُقيَّم
- مشتقة جزئية15 نقطة
- طول التدرج15 نقطة
- النهاية الصغرى لتكعيبي15 نقطة
- تصنيف نقطة ساكنة15 نقطة
- طابق المصطلحات15 نقطة
- إيجاد نهاية صغرى يدويًا10 نقطة
- لماذا نتحرك عكس التدرج15 نقطة