الانحدار الموضعي

منحنى LOESS مُطابق لمجموعة بيانات مأخوذة من موجة جيبية مع إضافة ضوضاء منتظمة. يُقارب منحنى LOESS الموجة الجيبية الأصلية.

الانحدار الموضعي ، أو الانحدار متعدد الحدود الموضعي ، [ 1 ] والمعروف أيضًا بالانحدار المتحرك ، [ 2 ] هو تعميم للمتوسط ​​المتحرك والانحدار متعدد الحدود . [ 3 ] من أكثر طرقه شيوعًا، والتي طُوّرت في البداية لتنعيم مخططات التشتت ، طريقتان: LOESS (تنعيم مخططات التشتت المقدر موضعيًا) وLOWESS (تنعيم مخططات التشتت الموزون موضعيًا)، وكلاهما يُنطق /ˈloʊɛs / LOH - ess . وهما طريقتان مترابطتان بشدة للانحدار غير البارامتري ، تجمعان نماذج انحدار متعددة في نموذج فوقي قائم على أقرب k جار . في بعض المجالات، تُعرف طريقة LOESS وتُشار إليها عادةً باسم مرشح سافيتزكي-جولاي [ 4 ] [ 5 ] (الذي طُرح قبل 15 عامًا من LOESS).

تعتمد طريقتَا LOESS وLOWESS على الأساليب "الكلاسيكية" ، مثل الانحدار الخطي وغير الخطي للمربعات الصغرى . وهما تعالجان الحالات التي لا تُجدي فيها الإجراءات الكلاسيكية نفعًا أو لا يُمكن تطبيقها بفعالية دون بذل جهد كبير. تجمع LOESS بين بساطة الانحدار الخطي للمربعات الصغرى ومرونة الانحدار غير الخطي . ويتم ذلك من خلال ملاءمة نماذج بسيطة لمجموعات فرعية محلية من البيانات لبناء دالة تصف الجزء الحتمي من التباين في البيانات، نقطة بنقطة. في الواقع، من أهم مزايا هذه الطريقة أن محلل البيانات ليس مُطالبًا بتحديد دالة شاملة من أي نوع لملاءمة نموذج مع البيانات، بل يكفي ملاءمة أجزاء من البيانات فقط.

يُقابل هذه الميزات زيادة في متطلبات الحساب. ونظرًا لكثافة حساباتها، كان استخدام طريقة LOESS شبه مستحيل عمليًا في عصر تطوير الانحدار الخطي للمربعات الصغرى. وتتشابه معظم الطرق الحديثة الأخرى لنمذجة العمليات مع LOESS في هذا الجانب. وقد صُممت هذه الطرق بعناية للاستفادة القصوى من قدراتنا الحسابية الحالية لتحقيق أهداف يصعب بلوغها بالطرق التقليدية.

يُطلق على المنحنى الأملس الذي يمر بمجموعة من نقاط البيانات، والمُستخلص باستخدام هذه التقنية الإحصائية، اسم منحنى لويس ، لا سيما عندما تُعطى كل قيمة مُنعّمة بواسطة انحدار المربعات الصغرى التربيعي الموزون على مدى قيم متغير معيار مخطط التشتت على المحور الصادي . وعندما تُعطى كل قيمة مُنعّمة بواسطة انحدار المربعات الصغرى الخطي الموزون على نفس المدى، يُعرف هذا المنحنى باسم منحنى لويس. مع ذلك، يعتبر بعض الباحثين مصطلحي لويس ولويس مترادفين. [ 6 ] [ 7 ]

تاريخ

يتمتع الانحدار الموضعي والإجراءات ذات الصلة الوثيقة به بتاريخ طويل وحافل، حيث تم اكتشافه وإعادة اكتشافه في مجالات مختلفة في مناسبات عديدة. وقد قدم روبرت هندرسون في عمله المبكر [ 8 ] الذي تناول مشكلة التدرج (وهو مصطلح يُستخدم في الأدبيات الاكتوارية للدلالة على التنعيم) الانحدار الموضعي باستخدام كثيرات الحدود التكعيبية.

على وجه التحديد، دعYج{\displaystyle Y_{j}}تشير إلى سلسلة غير متدرجة من الملاحظات. وباتباع هندرسون، نفترض أن الحدود منY-ح{\displaystyle Y_{-h}}لYح{\displaystyle Y_{h}}يجب أخذ ذلك في الاعتبار عند حساب القيمة المتدرجة لـY0{\displaystyle Y_{0}}، ودبليوج{\displaystyle W_{j}}الوزن الذي سيتم تخصيصه لـYج{\displaystyle Y_{j}}ثم يستخدم هندرسون تقريبًا متعدد الحدود محليًا.أ+بج+جج2+دج3{\displaystyle a+bj+cj^{2}+dj^{3}}، ويضع المعادلات الأربع التالية للمعاملات:

ج=-حح(أ+بج+جج2+دج3)دبليوج=ج=-ححدبليوجYجج=-حح(أج+بج2+جج3+دج4)دبليوج=ج=-ححجدبليوجYجج=-حح(أج2+بج3+جج4+دج5)دبليوج=ج=-ححج2دبليوجYجج=-حح(أج3+بج4+جج5+دج6)دبليوج=ج=-ححج3دبليوجYج\begin{aligned}\sum _{j=-h}^{h}(a+bj+cj^{2}+dj^{3})W_{j}&=\sum _{j=-h}^{h}W_{j}Y_{j}\\\sum _{j=-h}^{h}(aj+bj^{2}+cj^{3}+dj^{4})W_{j}&=\sum _{j=-h}^{h}jW_{j}Y_{j}\\\sum _{j=-h}^{h}(aj^{2}+bj^{3}+cj^{4}+dj^{5})W_{j}&=\sum _{j=-h}^{h}j^{2}W_{j}Y_{j}\\\sum _{j=-h}^{h}(aj^{3}+bj^{4}+cj^{5}+dj^{6})W_{j}&=\sum _{j=-h}^{h}j^{3}W_{j}Y_{j}\end{aligned}}}

يؤدي حل هذه المعادلات لإيجاد معاملات كثير الحدود إلى الحصول على القيمة المتدرجة.Y^0=أ{\displaystyle {\hat {Y}}_{0}=a}.

ذهب هندرسون أبعد من ذلك. ففي السنوات السابقة، طُوِّرت العديد من طرق التدرج القائمة على "صيغة الجمع"، والتي استمدت قواعد التدرج من صيغ الجمع (التفاف سلسلة المشاهدات مع مجموعة مختارة من الأوزان). ومن هذه القواعد قاعدتا سبنسر (1904) ذات الـ 15 نقطة و21 نقطة. [ 9 ] صُمِّمت قواعد التدرج هذه بعناية لتتمتع بخاصية إعادة إنتاج الدالة التربيعية: إذا كانت القيم غير المتدرجة تتبع صيغة تربيعية بدقة، فإن القيم المتدرجة تساوي القيم غير المتدرجة. وهذه خاصية مهمة: فالمتوسط ​​المتحرك البسيط، على النقيض من ذلك، لا يستطيع نمذجة القمم والقيعان في البيانات بشكل كافٍ. تمثلت رؤية هندرسون في إظهار أن أي قاعدة تدرج من هذا القبيل يمكن تمثيلها كدالة تكعيبية (أو تربيعية) محلية لاختيار مناسب للأوزان.

يمكن الاطلاع على المزيد من المناقشات حول الأعمال التاريخية المتعلقة بالتدرج وملاءمة كثيرات الحدود المحلية في ماكولي ( 1931 ) ، [ 10 ] وكليفلاند ولودر (1995)؛ [ 11 ] وموراي وبيلهاوس (2019). [ 12 ]

ساهم مرشح سافيتزكي-غولاي ، الذي قدمه أبراهام سافيتزكي ومارسيل جيه إي غولاي (1964) [ 13 في توسيع نطاق هذه الطريقة بشكل ملحوظ. وكما هو الحال في أعمال التدرج السابقة، ركزا على البيانات ذات المتغير التنبؤي المتساوي التباعد، حيث يمكن تمثيل الانحدار المحلي (باستثناء تأثيرات الحدود) على شكل التفاف . وقد نشر سافيتزكي وغولاي مجموعات واسعة من معاملات الالتفاف لرتب مختلفة من كثيرات الحدود وعرض نوافذ التنعيم.

بدأت أساليب الانحدار الموضعي بالظهور على نطاق واسع في أدبيات الإحصاء في سبعينيات القرن العشرين؛ على سبيل المثال، تشارلز ج. ستون (1977)، [ 14 ] وفلاديمير كاتكوفنيك (1979) [ 15 ] وويليام س. كليفلاند (1979). [ 16 ] ويُعد كتاب كاتكوفنيك (1985) [ 17 ] أقدم كتاب مُخصص بشكل أساسي لأساليب الانحدار الموضعي.

استمر ظهور الأعمال النظرية طوال التسعينيات. وتشمل المساهمات المهمة دراسة جيانكينغ فان وإيرين جيبلز (1992) [ 18 ] لخصائص الكفاءة، وديفيد روبرت وماثيو ب. واند (1994) [ 19 ] لتطوير نظرية التوزيع التقاربي للانحدار المحلي متعدد المتغيرات.

يُعد تقدير الاحتمالية المحلية امتدادًا هامًا للانحدار المحلي، وقد صاغه روبرت تيبشيراني وتريفور هاستي (1987). [ 20 ] يستبدل هذا التقدير معيار المربعات الصغرى المحلية بمعيار قائم على الاحتمالية، مما يوسع نطاق طريقة الانحدار المحلي لتشمل نموذج الخطية المعمم ؛ على سبيل المثال، البيانات الثنائية، أو بيانات العد، أو البيانات الخاضعة للرقابة.

بدأت التطبيقات العملية للانحدار الموضعي بالظهور في البرامج الإحصائية في ثمانينيات القرن العشرين. قدّم كليفلاند (1981) [ 21 ] إجراءات LOWESS، المصممة لتنعيم مخططات التشتت. تُطبّق هذه الإجراءات التوفيق الخطي الموضعي باستخدام متغير تنبؤي واحد، كما تُضيف خاصية تقليل الوزن لتعزيز المتانة وجعل الإجراء مقاومًا للقيم الشاذة. وُصف تطبيق جديد تمامًا، LOESS، في كليفلاند وسوزان ج. ديفلين (1988) [ 22 ] . يُعدّ LOESS أداة تنعيم متعددة المتغيرات، قادرة على التعامل مع البيانات المكانية ذات متغيرين تنبؤيين (أو أكثر)، وتستخدم (افتراضيًا) التوفيق التربيعي الموضعي. تم تطبيق كل من LOWESS وLOESS في لغتي البرمجة S و R. انظر أيضًا برنامج التوفيق الموضعي لكليفلاند [ 23 ] .

على الرغم من أن مصطلحات الانحدار الموضعي، وLOWESS، وLOESS تُستخدم أحيانًا بشكل متبادل، إلا أن هذا الاستخدام غير صحيح. فالانحدار الموضعي مصطلح عام يُشير إلى عملية التوفيق، بينما LOWESS وLOESS هما تطبيقان مختلفان لها.

تعريف النموذج

يستخدم الانحدار المحلي مجموعة بيانات تتكون من مشاهدات، ومتغير واحد أو أكثر "مستقل" أو "تنبؤي"، ومتغير "تابع" أو "استجابة". ستتكون مجموعة البيانات من عدد منن{\displaystyle n}الملاحظات. يمكن الإشارة إلى ملاحظات المتغير التنبؤي بـx1،...،xن{\displaystyle x_{1},\ldots ,x_{n}}، والملاحظات المقابلة لمتغير الاستجابة بواسطةY1،...،Yن{\displaystyle Y_{1},\ldots ,Y_{n}}.

لتبسيط العرض، يفترض التطوير أدناه وجود متغير تنبؤي واحد؛ أما التوسع ليشمل متغيرات تنبؤية متعددة (عندماxأنا{\displaystyle x_{i}}(المتجهات) مفهوم بسيط من الناحية النظرية. يُفترض وجود علاقة وظيفية بين المتغيرات التنبؤية والمتغيرات المستجيبة: Yأنا=μ(xأنا)+ϵأنا{\displaystyle Y_{i}=\mu (x_{i})+\epsilon _{i}} أينμ(x){\displaystyle \mu (x)}تمثل دالة الانحدار "السلسة" المجهولة المراد تقديرها، وتمثل القيمة المتوقعة الشرطية للاستجابة، بمعلومية قيمة المتغيرات التنبؤية. في العمل النظري، يمكن توصيف "سلاسة" هذه الدالة رسميًا من خلال وضع حدود على المشتقات ذات الرتب العليا.ϵأنا{\displaystyle \epsilon _{i}}يمثل هذا الخطأ العشوائي؛ ولأغراض التقدير، يُفترض أن متوسطه يساوي صفرًا. ويمكن وضع افتراضات أقوى (مثل الاستقلال وتساوي التباين ) عند تقييم خصائص التقديرات.

ثم يقوم الانحدار المحلي بتقدير الدالةμ(x){\displaystyle \mu (x)}، لقيمة واحدة منx{\displaystyle x}في كل مرة. وبما أن الدالة يفترض أنها سلسة، فإن نقاط البيانات الأكثر إفادة هي تلك التيxأنا{\displaystyle x_{i}}القيم قريبة منx{\displaystyle x}يتم إضفاء الطابع الرسمي على ذلك من خلال عرض النطاق التردديح{\displaystyle h}ودالة النواة أو دالة الوزندبليو(){\displaystyle W(\cdot )}، مع تخصيص أوزان للملاحظات wأنا(x)=دبليو(xأنا-xح).{\displaystyle w_{i}(x)=W{\left({\frac {x_{i}-x}{h}}\right)}.} خيار نموذجي لـدبليو{\displaystyle W}، المستخدمة من قبل كليفلاند في LOWESS، هيدبليو(u)=(1-|u|3)3{\displaystyle W(u)=(1-|u|^{3})^{3}}ل|u|<1{\displaystyle |u|<1}، على الرغم من أن أي وظيفة مماثلة (بلغت ذروتها عندu=0{\displaystyle u=0}وصغيرة أو صفر للقيم الكبيرة لـu{\displaystyle u}يمكن استخدامها. مسائل اختيار وتحديد عرض النطاق الترددي (ما هو الحجم المناسب؟ح{\displaystyle h}يجب أن يكون، وينبغي أن يختلف ذلك تبعاً لنقطة التركيبx{\displaystyle x}؟) مؤجلة في الوقت الحالي.

نموذج محلي (عادةً ما يكون متعدد حدود منخفض الدرجة من الدرجةص3{\displaystyle p\leq 3}), معبر عنها بـ μ(xأنا)β0+β1(xأنا-x)+...+βص(xأنا-x)ص{\displaystyle \mu (x_{i})\approx \beta _{0}+\beta _{1}(x_{i}-x)+\ldots +\beta _{p}(x_{i}-x)^{p}} ثم يتم تركيب النموذج باستخدام طريقة المربعات الصغرى الموزونة : اختيار معاملات الانحدار (β^0،...،β^ص){\displaystyle ({\hat {\beta }}_{0},\ldots ,{\hat {\beta }}_{p})}لتقليل أنا=1نwأنا(x)(Yأنا-β0-β1(xأنا-x)-...-βص(xأنا-x)ص)2.{\displaystyle \sum _{i=1}^{n}w_{i}(x)\left(Y_{i}-\beta _{0}-\beta _{1}(x_{i}-x)-\ldots -\beta _{p}(x_{i}-x)^{p}\right)^{2}.} تقدير الانحدار المحلي لـμ(x){\displaystyle \mu (x)}إذن، يكون ببساطة تقدير نقطة التقاطع: μ^(x)=β^0{\displaystyle {\hat {\mu }}(x)={\hat {\beta }}_{0}} بينما يمكن تفسير المعاملات المتبقية (حتى عامل منص!{\displaystyle p!}) كتقديرات مشتقة.

تجدر الإشارة إلى أن الإجراء المذكور أعلاه ينتج التقديرμ^(x){\displaystyle {\hat {\mu }}(x)}لقيمة واحدة منx{\displaystyle x}عند النظر في قيمة جديدة لـx{\displaystyle x}مجموعة جديدة من الأوزانwأنا(x){\displaystyle w_{i}(x)}يجب حسابها، وتقدير معامل الانحدار من جديد.

تمثيل المصفوفة لتقدير الانحدار المحلي

كما هو الحال مع جميع تقديرات المربعات الصغرى، يمكن التعبير عن معاملات الانحدار المقدرة بصيغة مغلقة (انظر المربعات الصغرى الموزونة لمزيد من التفاصيل): β^=(XتيدبليوX)-1Xتيدبليوy{\displaystyle {\hat {\boldsymbol {\beta }}}=\left(\mathbf {X^{\textsf {T}}WX} \right)^{-1}\mathbf {X^{\textsf {T}}W} \mathbf {y} } أينβ^{\displaystyle {\hat {\boldsymbol {\beta }}}}هو متجه معاملات الانحدار المحلي؛ X{\displaystyle \mathbf {X} }هون×(ص+1){\displaystyle n\times (p+1)}مصفوفة تصميم مع مدخلات(xأنا-x)ج{\displaystyle (x_{i}-x)^{j}}؛دبليو{\displaystyle \mathbf {W} }هي مصفوفة قطرية لأوزان التنعيمwأنا(x){\displaystyle w_{i}(x)}؛ وy{\displaystyle \mathbf {y} }هو متجه الاستجاباتYأنا{\displaystyle Y_{i}}.

يُعدّ هذا التمثيل المصفوفي أساسيًا لدراسة الخصائص النظرية لتقديرات الانحدار الموضعي. ومع التعريفات المناسبة لمصفوفات التصميم والأوزان، يُمكن تعميمه مباشرةً على حالة المتغيرات التنبؤية المتعددة.

مشاكل الاختيار: عرض النطاق الترددي، النموذج المحلي، معايير المطابقة

يتطلب تطبيق الانحدار المحلي تحديد واختيار عدة مكونات:

  1. عرض النطاق الترددي، وبشكل أعم المجموعات الفرعية المحلية من البيانات.
  2. درجة متعددة الحدود المحلية، أو بشكل أعم، شكل النموذج المحلي.
  3. اختيار دالة الوزندبليو(){\displaystyle W(\cdot )}.
  4. اختيار معيار المطابقة (المربعات الصغرى أو شيء آخر).

لقد خضع كل مكون من هذه المكونات لدراسة مستفيضة؛ ويرد أدناه ملخص لها.

مجموعات فرعية محلية من البيانات؛ عرض النطاق الترددي

عرض النطاق التردديح{\displaystyle h}يتحكم معامل h في دقة تقدير الانحدار المحلي. فإذا كانت قيمة h صغيرة جدًا، فقد يُظهر التقدير خصائص عالية الدقة تمثل ضوضاء في البيانات، بدلًا من أي بنية حقيقية في دالة المتوسط. وعلى العكس، إذا كانت قيمة h كبيرة جدًا، فلن يُظهر التقدير سوى خصائص منخفضة الدقة، وقد تُفقد بنية مهمة. هذه هي المفاضلة بين التحيز والتباين ؛ فإذا كانت قيمة h صغيرة جدًا، يُظهر التقدير تباينًا كبيرًا؛ بينما عند قيمة h كبيرة ، يُظهر التقدير تحيزًا كبيرًا.

لذا، يُعدّ اختيار عرض النطاق بعناية أمرًا بالغ الأهمية عند تطبيق الانحدار المحلي. تتطلب الطرق الرياضية لاختيار عرض النطاق، أولًا، معايير رسمية لتقييم أداء التقدير. أحد هذه المعايير هو خطأ التنبؤ: إذا تم إجراء ملاحظة جديدة عندx~{\displaystyle {\tilde {x}}}ما مدى دقة التقدير؟μ^(x~){\displaystyle {\hat {\mu }}({\tilde {x}})}توقع الاستجابة الجديدةY~{\displaystyle {\tilde {Y}}}؟

غالبًا ما يتم تقييم الأداء باستخدام دالة خسارة الخطأ التربيعي. متوسط ​​مربع خطأ التنبؤ هو هـ[Y~-μ^(x~)]2=هـ[Y~-μ(x)+μ(x)-μ^(x~)]2=هـ[Y~-μ(x)]2+هـ[μ(x)-μ^(x~)]2.{\displaystyle {\begin{aligned}\operatorname {E} \left[{\tilde {Y}}-{\hat {\mu }}({\tilde {x}})\right]^{2}&=\operatorname {E} \left[{\tilde {Y}}-\mu (x)+\mu (x)-{\hat {\mu }}({\tilde {x}})\right]^{2}\\&=\operatorname {E} \left[{\tilde {Y}}-\mu (x)\right]^{2}+\operatorname {E} \left[\mu (x)-{\hat {\mu }}({\tilde {x}})\right]^{2}.\end{aligned}}} الفصل الدراسي الأولهـ(Y~-μ(x))2{\displaystyle E\left({\tilde {Y}}-\mu (x)\right)^{2}}يمثل هذا التباين العشوائي للملاحظة؛ وهو مستقل تمامًا عن تقدير الانحدار المحلي. أما الحد الثاني،هـ[μ(x)-μ^(x~)]2{\displaystyle \operatorname {E} \left[\mu (x)-{\hat {\mu }}({\tilde {x}})\right]^{2}} يمثل متوسط ​​مربع خطأ التقدير. توضح هذه العلاقة أنه بالنسبة لخسارة مربع الخطأ، فإن تقليل خطأ التنبؤ وتقليل خطأ التقدير يمثلان مشكلتين متكافئتين.

في اختيار النطاق الترددي العالمي، يمكن دمج هذه التدابير عبرx{\displaystyle x}الفضاء (متوسط ​​مربع الخطأ المتكامل، والذي يستخدم غالبًا في العمل النظري)، أو المتوسط ​​على البيانات الفعليةxأنا{\displaystyle x_{i}}(أكثر فائدة للتطبيقات العملية). يمكن تكييف بعض التقنيات القياسية من اختيار النموذج بسهولة مع الانحدار المحلي:

  1. التحقق المتبادل ، الذي يقدر متوسط ​​مربع خطأ التنبؤ.
  2. معيار مالو Cp ومعيار معلومات أكايكي ، اللذان يقدران متوسط ​​مربع خطأ التقدير.
  3. طرق أخرى تحاول تقدير مكونات التحيز والتباين لخطأ التقدير بشكل مباشر.

يمكن تقليل أي من هذه المعايير لإنتاج مُحدد عرض نطاق تلقائي. يُفضل كليفلاند وديفلين [ 22 ] طريقة بيانية ( مخطط M ) لعرض المفاضلة بين الانحياز والتباين بصريًا وتوجيه اختيار عرض النطاق.

أحد الأسئلة التي لم تتم الإجابة عليها أعلاه هو: كيف ينبغي أن يعتمد عرض النطاق الترددي على نقطة التركيب؟x{\displaystyle x}غالبًا ما يُستخدم عرض نطاق ثابت، بينما تُفضل طريقتَا LOWESS وLOESS عرض نطاق أقرب جار، مما يعني أن قيمة h تكون أصغر في المناطق التي تحتوي على العديد من نقاط البيانات. رسميًا، معامل التنعيم،α{\displaystyle \alpha }، هي نسبة عدد نقاط البيانات الإجمالية n المستخدمة في كل عملية ملاءمة محلية. وبالتالي، فإن مجموعة البيانات الفرعية المستخدمة في كل عملية ملاءمة للمربعات الصغرى الموزونة تتألف مننα{\displaystyle n\alpha }النقاط (المقربة إلى أقرب عدد صحيح أكبر) التي تكون قيم متغيراتها التفسيرية أقرب ما يكون إلى النقطة التي يتم عندها تقدير الاستجابة. [ 7 ]

تحاول الطرق الأكثر تطوراً اختيار عرض النطاق الترددي بشكل تكيفي ؛ أي اختيار عرض نطاق ترددي عند كل نقطة ملاءمة.x{\displaystyle x}من خلال تطبيق معايير مثل التحقق المتبادل محليًا ضمن نافذة التنعيم. ومن الأمثلة المبكرة على ذلك "المنعم الفائق" لجيروم هـ . فريدمان [ 24 ] ، والذي يستخدم التحقق المتبادل للاختيار بين أفضل الملاءمات الخطية المحلية عند نطاقات تردد مختلفة.

درجة كثيرات الحدود المحلية

تستخدم معظم المصادر، في كل من العمل النظري والحسابي، كثيرات الحدود منخفضة الرتبة كنموذج محلي، حيث تتراوح درجة كثير الحدود من 0 إلى 3.

يُعادل نموذج الدرجة صفر (الثابت المحلي) نموذج التنعيم باستخدام النواة ؛ ويُنسب عادةً إلى إليزبار ناداريا (1964) [ 25 ] وجي إس واتسون (1964) [ 26 ] . يُعد هذا النموذج أبسط النماذج استخدامًا، ولكنه قد يُعاني من التحيز عند ملاءمته بالقرب من حدود مجموعة البيانات.

يمكن للمطابقة الخطية المحلية (من الدرجة 1) أن تقلل بشكل كبير من تحيز الحدود.

يمكن أن تؤدي الدوال التربيعية المحلية (من الدرجة الثانية) والتكعيبية المحلية (من الدرجة الثالثة) إلى تحسين المطابقة، لا سيما عندما تكون دالة المتوسط ​​الأساسيةμ(x){\displaystyle \mu (x)}له انحناء كبير، أو ما يعادله مشتقة ثانية كبيرة.

نظرياً، يمكن أن تؤدي الرتب الأعلى لكثيرات الحدود إلى تقارب أسرع للتقديرμ^(x){\displaystyle {\hat {\mu }}(x)}إلى المتوسط ​​الحقيقيμ(x){\displaystyle \mu (x)}بشرط أنμ(x){\displaystyle \mu (x)}يحتوي على عدد كافٍ من المشتقات . انظر سي جيه ستون (1980). [ 27 ] عمومًا، يتطلب تحقيق هذا التقارب الأسرع حجم عينة كبيرًا. كما تظهر مشكلات حسابية ومشكلات تتعلق بالاستقرار، لا سيما في التنعيم متعدد المتغيرات. لا يُنصح عمومًا باستخدام كثيرات الحدود المحلية ذات الدرجة الأكبر من 3.

كما هو الحال مع اختيار عرض النطاق الترددي، يمكن استخدام طرق مثل التحقق المتبادل لمقارنة الملاءمات التي تم الحصول عليها بدرجات مختلفة من كثير الحدود.

وظيفة الوزن

كما ذُكر سابقًا، تُعطي دالة الترجيح أكبر وزن لنقاط البيانات الأقرب إلى نقطة التقدير، وأقل وزن لنقاط البيانات الأبعد. ويستند استخدام الأوزان إلى فكرة أن النقاط المتقاربة في فضاء المتغيرات التفسيرية ترتبط ببعضها البعض بشكل أبسط من النقاط المتباعدة. وبناءً على هذا المنطق، فإن النقاط التي يُرجح أن تتبع النموذج المحلي تُؤثر بشكل أكبر على تقديرات معلمات النموذج المحلي. أما النقاط الأقل احتمالًا للتوافق مع النموذج المحلي، فلها تأثير أقل على تقديرات معلمات النموذج المحلي .

يحدد كليفلاند (1979) [ 16 ] أربعة متطلبات لدالة الوزن:

  1. غير سالب:دبليو(x)>0{\displaystyle W(x)>0}ل|x|<1{\displaystyle |x|<1}.
  2. التناظر:دبليو(-x)=دبليو(x){\displaystyle W(-x)=W(x)}.
  3. روتيني:دبليو(x){\displaystyle W(x)}هي دالة غير متزايدة لـx0{\displaystyle x\geq 0}.
  4. الدعم المحدود:دبليو(x)=0{\displaystyle W(x)=0}ل|x|1{\displaystyle |x|\geq 1}.

درس ف . أ. إيبانيتشنيكوف (1969) [ 28 ] الكفاءة التقاربية لدوال الوزن في سياق تقدير كثافة النواة؛ وقد توصل ج. فان (1993) [ 29 ] إلى نتائج مماثلة للانحدار المحلي. وخلصا إلى أن النواة التربيعية،دبليو(x)=1-x2{\displaystyle W(x)=1-x^{2}}ل|x|1{\displaystyle |x|\leq 1}تُحقق هذه الطريقة أعلى كفاءة عند استخدام دالة خسارة متوسط ​​مربع الخطأ. راجع قسم "دوال النواة الشائعة الاستخدام" لمزيد من التفاصيل حول أنواع النوى المختلفة وكفاءتها.

هناك اعتبارات أخرى غير متوسط ​​مربع الخطأ (MSE) ذات صلة باختيار دالة الوزن. خصائص النعومة لـدبليو(x){\displaystyle W(x)}يؤثر بشكل مباشر على سلاسة التقديرμ^(x){\displaystyle {\hat {\mu }}(x)}على وجه الخصوص، فإن النواة التربيعية غير قابلة للتفاضل عندx=±1{\displaystyle x=\pm 1}، وμ^(x){\displaystyle {\hat {\mu }}(x)}وبالتالي، فهي غير قابلة للتفاضل. دالة الوزن ثلاثية المكعب ، دبليو(x)=(1-|x|3)3؛|x|<1{\displaystyle W(x)=(1-|x|^{3})^{3};|x|<1} تم استخدامها في LOWESS وبرامج الانحدار المحلي الأخرى؛ وهذا يجمع بين قابلية التفاضل من الدرجة الأعلى وكفاءة MSE العالية.

من الانتقادات الموجهة لدوال الوزن ذات النطاق المحدود أنها قد تؤدي إلى مشاكل عددية (مثل مصفوفة تصميم غير مستقرة أو شاذة) عند ملاءمتها في مناطق ذات بيانات متفرقة. لهذا السبب، يختار بعض الباحثين استخدام نواة غاوسية، أو دوال أخرى ذات نطاق غير محدود.

اختيار معيار الملاءمة

كما ذُكر أعلاه، يستخدم الانحدار الموضعي معيار المربعات الصغرى الموزونة محليًا لتقدير معلمات الانحدار. ويرث هذا المعيار العديد من المزايا (سهولة التطبيق والتفسير؛ خصائص جيدة عندما تكون الأخطاء موزعة توزيعًا طبيعيًا) والعيوب (الحساسية للقيم المتطرفة والشاذة؛ عدم الكفاءة عندما يكون تباين الأخطاء غير متساوٍ أو لا تكون موزعة توزيعًا طبيعيًا) المرتبطة عادةً بانحدار المربعات الصغرى.

يمكن معالجة هذه العيوب باستبدال تقدير المربعات الصغرى المحلية بطريقة أخرى. ويُعرض هنا فكرتان في هذا الصدد: تقدير الاحتمالية المحلية، الذي يطبق التقدير المحلي على النموذج الخطي المعمم ، والانحدار المحلي القوي، الذي يُطبّق أساليب الانحدار القوي محلياً .

تقدير الاحتمالية المحلية

في تقدير الاحتمالية المحلية، الذي طُوِّر في تيبشيراني وهاستي (1987)، [ 20 ] الملاحظاتYأنا{\displaystyle Y_{i}}يُفترض أن تأتي من عائلة توزيعات بارامترية، مع دالة كثافة احتمالية معروفة (أو دالة كتلة، للبيانات المنفصلة). Yأناو(y،θ(xأنا))،{\displaystyle Y_{i}\sim f(y,\theta (x_{i})),} حيث دالة المعاملθ(x){\displaystyle \theta (x)}هي الكمية المجهولة المراد تقديرها. لتقديرθ(x){\displaystyle \theta (x)}عند نقطة معينةx{\displaystyle x}معيار الاحتمالية المحلية هو أنا=1نwأنا(x)سجل[و(Yأنا،β0+β1(xأنا-x)++βص(xأنا-x)ص)].{\displaystyle \sum _{i=1}^{n}w_{i}(x)\log \left[f{\left(Y_{i},\beta _{0}+\beta _{1}(x_{i}-x)+\dots +\beta _{p}\left(x_{i}-x\right)^{p}\right)}\right].} تقديرات معاملات الانحدار (على وجه الخصوص،β^0{\displaystyle {\hat {\beta }}_{0}}يتم الحصول على ) من خلال تعظيم معيار الاحتمالية المحلية، وتقدير الاحتمالية المحلية هو θ^(x)=β^0.{\displaystyle {\hat {\theta }}(x)={\hat {\beta }}_{0}.}

متىو(y،θ(x)){\displaystyle f(y,\theta (x))}التوزيع الطبيعي وθ(x){\displaystyle \theta (x)}إذا كانت دالة المتوسط ​​هي دالة الاحتمال المحلي، فإن طريقة الاحتمال المحلي تُختزل إلى انحدار المربعات الصغرى المحلي القياسي. أما بالنسبة لعائلات الاحتمال الأخرى، فلا يوجد (عادةً) حل مغلق لتقدير الاحتمال المحلي، ويجب استخدام إجراءات تكرارية مثل المربعات الصغرى المُعاد ترجيحها تكراريًا لحساب التقدير.

مثال (الانحدار اللوجستي المحلي). جميع مشاهدات الاستجابة هي 0 أو 1، ودالة المتوسط ​​هي احتمال "النجاح".μ(xأنا)=برو(Yأنا=1|xأنا){\displaystyle \mu (x_{i})=\Pr(Y_{i}=1|x_{i})}. منذμ(xأنا){\displaystyle \mu (x_{i})}يجب أن تكون القيمة بين 0 و1، ولا ينبغي استخدام نموذج متعدد الحدود المحلي لـμ(x){\displaystyle \mu (x)}بشكل مباشر. بدلاً من ذلك، التحول اللوجستي θ(x)=سجل(μ(x)1-μ(x)){\displaystyle \theta (x)=\log \left({\frac {\mu (x)}{1-\mu (x)}}\right)} يمكن استخدامها؛ أو ما يعادلها، 1-μ(x)=11+هـθ(x)؛μ(x)=هـθ(x)1+هـθ(x){\displaystyle {\begin{aligned}1-\mu (x)&={\frac {1}{1+e^{\theta (x)}}};\\\mu (x)&={\frac {e^{\theta (x)}}{1+e^{\theta (x)}}}\end{aligned}}} ودالة الكتلة هي و(Yأنا،θ(xأنا))=هـYأناθ(xأنا)1+هـθ(xأنا).{\displaystyle f(Y_{i},\theta (x_{i}))={\frac {e^{Y_{i}\theta (x_{i})}}{1+e^{\theta (x_{i})}}}.}

تم تطوير نظرية تقاربية لتقدير الاحتمالية المحلية في J. Fan و Nancy E. Heckman و MPWand (1995)؛ [ 30 ] يناقش كتاب Loader (1999) [ 31 ] العديد من التطبيقات الأخرى للاحتمالية المحلية.

الانحدار المحلي القوي

لمعالجة حساسية النموذج للقيم المتطرفة، يمكن استخدام تقنيات من الانحدار القوي . في تقدير M المحلي ، يتم استبدال معيار المربعات الصغرى المحلي بمعيار من الشكل التالي: أنا=1نwأنا(x)ρ(Yأنا-β0--βص(xأنا-x)صs){\displaystyle \sum _{i=1}^{n}w_{i}(x)\,\rho {\left({\frac {Y_{i}-\beta _{0}-\dots -\beta _{p}(x_{i}-x)^{p}}{s}}\right)}} أينρ(){\displaystyle \rho (\cdot )}هي دالة متانة وs{\displaystyle s}هو مُعامل قياس. من الأفضل ترك مناقشة مزايا الخيارات المختلفة لدالة المتانة لأدبيات الانحدار المتين . مُعامل القياسs{\displaystyle s}يجب أيضًا تقديرها. تشمل المراجع الخاصة بالتقدير المحلي لـ M كلاً من كاتكوفنيك (1985) [ 17 ] وألكسندر تسيباكوف (1986). [ 32 ]

تتوافق تكرارات المتانة في LOWESS و LOESS مع دالة المتانة المحددة بواسطة ρ(u)=u(1-u2/6)2؛|u|<1{\displaystyle \rho '(u)=u(1-u^{2}/6)^{2};|u|<1} وتقدير عالمي قوي لمعامل المقياس.

لوρ(u)=|u|{\displaystyle \rho (u)=|u|}، المحليل1{\displaystyle L_{1}}معيار أنا=1نwأنا(x)|Yأنا-β0-...-βص(xأنا-x)ص|{\displaystyle \sum _{i=1}^{n}w_{i}(x)\left|Y_{i}-\beta _{0}-\ldots -\beta _{p}(x_{i}-x)^{p}\right|} النتائج؛ هذا لا يتطلب مُعامل قياس. عندماص=0{\displaystyle p=0}يتم تقليل هذا المعيار عن طريق الوسيط المرجح محليًا؛ محليًال1{\displaystyle L_{1}}يمكن تفسير الانحدار على أنه تقدير للوسيط ، وليس المتوسط ، للاستجابة. إذا كانت دالة الخسارة منحرفة، يصبح هذا انحدارًا كميًا محليًا. انظر كيمينغ يو وإم سي جونز (1998). [ 33 ]

يتمثل أحد البدائل الحديثة في تعديل أوزان الانحدار المحلي بدلاً من دالة الخسارة. يقترح شولمان (2025) انحدارًا متعدد الحدود محليًا قويًا باستخدام نواة التشابه ، حيث يتم تعميم ترجيح النواة ليشمل كلًا من المتغيرات التنبؤية والمتغيرات المستجيبة؛ وفي إحدى الصيغ، يُعاد ترجيح معيار المربعات الصغرى المحلي بتقدير للكثافة الشرطية.و^Y|X(Yأنا|Xأنا){\displaystyle {\hat {f}}_{Y\mid X}(Y_{i}\mid X_{i})}وبالتالي، يتم تقليل وزن الملاحظات ذات الكثافة الشرطية المحلية المقدرة المنخفضة. وهذا يوفر متانة في مواجهة القيم الشاذة ونقاط التأثير العالي دون الحاجة إلى تكرارات المتانة المتعددة المستخدمة في طرق مثل LOWESS وLOESS. [ 34 ]

المزايا

كما ذُكر سابقًا، تتمثل الميزة الأكبر لطريقة LOESS مقارنةً بالعديد من الطرق الأخرى في أن عملية ملاءمة النموذج لبيانات العينة لا تبدأ بتحديد دالة. بل يكفي أن يُحدد المحلل قيمة مُعامل التنعيم ودرجة متعددة الحدود المحلية. إضافةً إلى ذلك، تتميز LOESS بمرونة عالية، مما يجعلها مثالية لنمذجة العمليات المعقدة التي لا توجد لها نماذج نظرية. هاتان الميزتان، إلى جانب بساطة الطريقة، تجعلان LOESS واحدة من أكثر طرق الانحدار الحديثة جاذبيةً للتطبيقات التي تندرج ضمن الإطار العام لانحدار المربعات الصغرى، ولكنها ذات بنية حتمية معقدة.

على الرغم من أن الأمر أقل وضوحًا مقارنةً ببعض الطرق الأخرى المرتبطة بانحدار المربعات الصغرى الخطية، إلا أن طريقة LOESS تتمتع بمعظم المزايا التي تشترك فيها تلك الطرق عادةً. وأهم هذه المزايا هي النظرية المستخدمة لحساب حالات عدم اليقين لأغراض التنبؤ والمعايرة. كما يمكن تطبيق العديد من الاختبارات والإجراءات الأخرى المستخدمة للتحقق من صحة نماذج المربعات الصغرى على نماذج LOESS .

العيوب

يُعدّ استخدام البيانات في طريقة LOESS أقل كفاءة من طرق المربعات الصغرى الأخرى. فهي تتطلب مجموعات بيانات كبيرة نسبيًا وذات عينات كثيفة لإنتاج نماذج جيدة. ويعود ذلك إلى اعتماد LOESS على بنية البيانات المحلية عند إجراء عملية التوفيق المحلي. وبالتالي، توفر LOESS تحليلًا أقل تعقيدًا للبيانات مقابل تكاليف تجريبية أعلى. [ 7 ]

من عيوب طريقة LOESS أنها لا تُنتج دالة انحدار يُمكن تمثيلها بسهولة بصيغة رياضية. وهذا يُصعّب نقل نتائج التحليل إلى الآخرين، إذ يتطلب نقل دالة الانحدار توفير مجموعة البيانات وبرنامج حسابات LOESS. في المقابل، في الانحدار غير الخطي ، يكفي كتابة صيغة دالية لتقدير المعاملات المجهولة وعدم اليقين المُقدّر. وبحسب التطبيق، قد يُشكّل هذا عيبًا كبيرًا أو صغيرًا في استخدام LOESS. على وجه الخصوص، لا يُمكن استخدام الصيغة البسيطة لـ LOESS في النمذجة الآلية حيث تُحدّد المعاملات المُقاسة خصائص فيزيائية مُحدّدة للنظام.

أخيرًا، وكما ذُكر سابقًا، تُعدّ طريقة LOESS طريقةً مُكلفةً حسابيًا (باستثناء البيانات ذات التباعد المُنتظم، حيث يُمكن حينها صياغة الانحدار كمرشح استجابة نبضية محدودة غير سببي ). كما أن LOESS عُرضة لتأثيرات القيم الشاذة في مجموعة البيانات، شأنها شأن طرق المربعات الصغرى الأخرى. يوجد إصدار تكراري قوي من LOESS [كليفلاند (1979)] يُمكن استخدامه لتقليل حساسية LOESS للقيم الشاذة ، ولكن وجود عدد كبير جدًا من القيم الشاذة المتطرفة قد يُؤدي إلى تجاوز حتى الطريقة القوية؛ وقد اقتُرحت أيضًا طرق انحدار محلية قوية أخرى غير تكرارية. [ 34 ]

للمزيد من القراءة

كتب تتناول بشكل أساسي الانحدار المحلي والامتدادات:

  • يناقش ماكولي (1931) "تنعيم السلاسل الزمنية"، [ 10 ] أساليب التدرج مع عدة فصول تتعلق بتركيب كثير الحدود المحلي.
  • كاتكوفنيك (1985) "التحديد غير البارامتري وتنعيم البيانات" [ 17 ] باللغة الروسية.
  • فان وجيبلز (1996) "نمذجة كثيرات الحدود المحلية وتطبيقاتها". [ 35 ]
  • لودر (1999) "الانحدار المحلي والاحتمالية". [ 31 ]
  • فوثرينغهام، برونسدون وتشارلتون (2002)، "الانحدار المرجح جغرافيا" [ 36 ] (تطوير للانحدار المحلي للبيانات المكانية).

فصول من الكتب، مراجعات:

  • "التنعيم عن طريق الانحدار المحلي: المبادئ والأساليب" [ 11 ]
  • "الانحدار المحلي والاحتمالية"، الفصل 13 من كتاب ديناميكيات الدماغ المرصودة ، ميترا وبوكيل (2007) [ 37 ]
  • رافائيل إيريزاري ، "الانحدار المحلي". الفصل 3 من كتاب "الإحصاءات التطبيقية غير البارامترية والحديثة". [ 38 ]

انظر أيضاً

مراجع

الاقتباسات

  1. فوكس وويزبرغ 2018 ، الملحق.
  2. هاريل 2015 ، ص 29.
  3. غاريميلا 2017 .
  4. ^ "تصفية Savitzky – Golay – MATLAB sgolayfilt" . ماثوركس.كوم .
  5. "scipy.signal.savgol_filter — دليل مرجعي لـ SciPy الإصدار 0.16.1" . Docs.scipy.org .
  6. كريستين بافليك، وكالة حماية البيئة الأمريكية، اللوس (أو لويس) ، خطوات التغذية ، يوليو 2016.
  7. 1 2 3 NIST، "LOESS (المعروف أيضًا باسم LOWESS)" ، القسم 4.1.4.4، الدليل الإلكتروني NIST/SEMATECH للأساليب الإحصائية، (تم الوصول إليه في 14 أبريل 2017)
  8. هندرسون، ر. ملاحظة حول التخرج حسب المتوسط ​​المعدل. معاملات الجمعية الاكتوارية الأمريكية 17، 43-48، 1916. archive.org
  9. جون سبنسر (أبريل 1904). "حول تدرج معدلات المرض والوفيات كما ورد في تجربة جمعية مانشستر يونيتي أوف أودفيلوز خلال الفترة 1893-1897". مجلة معهد الاكتواريين . 38 (4): 334-343 . doi : 10.1017/S0020268100008076 . ISSN 0020-2681 . JSTOR 41136340. Wikidata Q127775139 .   
  10. 1 2 فريدريك ماكولي (يناير 1931). تنعيم السلاسل الزمنية . المكتب الوطني للبحوث الاقتصادية . ISBN 0-87014-018-3. إل سي سي إن 31009133 . S2CID 121925426 . ويكي بيانات Q134465853 .   {{cite book}}عدم توافق رقم ISBN / التاريخ ( مساعدة )
  11. 1 2 ويليام س. كليفلاند ؛ كاثرين لودر (1996). " التنعيم بالانحدار الموضعي: المبادئ والأساليب". النظرية الإحصائية والجوانب الحسابية للتنعيم . مساهمات في الإحصاء: 10-49 . doi : 10.1007/978-3-642-48425-4_2 . S2CID 14593932. Wikidata Q132138257 .  
  12. لوري موراي؛ ديفيد ريتشارد بيلهاوس (11 يونيو 2019). "طريقة التنعيم لـ دبليو إف شيبارد : مقدمة للانحدار متعدد الحدود المحلي". المجلة الإحصائية الدولية . 87 (3): 604-612 . doi : 10.1111/INSR.12330 . ISSN 0306-7734 . JSTOR 48554897. Wikidata Q127772934 .   
  13. أبراهام سافيتزكي ؛ مارسيل جيه إي غولاي (يوليو 1964). "تنعيم البيانات وتفاضلها باستخدام إجراءات المربعات الصغرى المبسطة". الكيمياء التحليلية . 36 (8): 1627-1639 . doi : 10.1021/AC60214A047 . ISSN 0003-2700 . Wikidata Q56769732 .  
  14. تشارلز ج . ستون (يوليو 1977). " الانحدار غير البارامتري المتسق". حوليات الإحصاء . 5 (4): 595-620 . doi : 10.1214/AOS/1176343886 . ISSN 0090-5364 . JSTOR 2958783. MR 0443204. Zbl 0366.62051 . Wikidata Q56533608 .     
  15. كاتكوفنيك، فلاديمير (1979)، "الأساليب الخطية وغير الخطية لتحليل الانحدار غير البارامتري"، التحكم الآلي السوفيتي ، 12 ( 5): 25-34
  16. 1 2 ويليام س . كليفلاند (ديسمبر 1979). "الانحدار الموزون محليًا القوي وتنعيم مخططات التشتت". مجلة الجمعية الإحصائية الأمريكية . 74 (368): 829-836 . doi : 10.1080 / 01621459.1979.10481038 . ISSN 0162-1459 . JSTOR 2286407. MR 0556476. Zbl 0423.62029 . Wikidata Q30052922 .     
  17. 1 2 3 فلاديمير كاتكوفنيك (1985)، عدم البارامترية في تحديد الهوية وتسجيل البيانات. طريقة التقريب المحلي. (بالروسية)، ناوكا ، LCCN 86141102 ، Zbl 0576.62050 ، ويكي بيانات Q132129931   
  18. جيانكينغ فان ؛ إيرين غيبلز (ديسمبر 1992). " عرض النطاق المتغير ومُنعِّمات الانحدار الخطي المحلي". حوليات الإحصاء . 20 (4): 2008-2036 . doi : 10.1214/AOS/ 1176348900 . ISSN 0090-5364 . JSTOR 2242378. S2CID 8309667. Wikidata Q132202273 .    
  19. ديفيد روبرت؛ مات واند (سبتمبر 1994). " انحدار المربعات الصغرى الموزونة محليًا متعدد المتغيرات" . حوليات الإحصاء . 22 ( 3): 1346-1370 . doi : 10.1214/AOS/1176325632 . ISSN 0090-5364 . JSTOR 2242229. MR 1311979. Zbl 0821.62020 . Wikidata Q132202598 .     
  20. 1 2 روبرت تيبشيراني ؛ تريفور هاستي (1987). "تقدير الاحتمالية المحلية". مجلة الجمعية الإحصائية الأمريكية . 82 (398): 559-567 . doi : 10.1080/01621459.1987.10478466 . ISSN 0162-1459 . JSTOR 2289465. Zbl 0626.62041 . Wikidata Q132187702 .    
  21. ويليام س. كليفلاند (فبراير 1981). "LOWESS: برنامج لتنعيم مخططات التشتت باستخدام الانحدار الموزون محليًا القوي". الإحصائي الأمريكي . 35 (1): 54. doi : 10.2307/2683591 . ISSN 0003-1305 . JSTOR 2683591. Wikidata Q29541549 .   
  22. 1 2 ويليام س. كليفلاند ؛ سوزان ج. ديفلين (سبتمبر 1988). "الانحدار الموزون محليًا: منهج لتحليل الانحدار عن طريق التوفيق المحلي". مجلة الجمعية الإحصائية الأمريكية . 83 (403): 596-610 . doi : 10.1080/01621459.1988.10478639 . ISSN 0162-1459 . JSTOR 2289282. Zbl 1248.62054 . Wikidata Q29393395 .    
  23. كليفلاند، ويليام . "برنامج التركيب المحلي" . مؤرشف من الأصل في 12 سبتمبر 2005.
  24. فريدمان، جيروم هـ. (أكتوبر 1984)، مُنعِّم النطاق المتغير (PDF) ، تقرير فني، مختبر الإحصاءات الحاسوبية LCS 5؛ SLAC PUB-3466، doi : 10.2171/1447470 (غير نشط في 28 يناير 2026){{citation}}: صيانة CS1: تم تعطيل DOI اعتبارًا من يناير 2026 ( رابط )
  25. إي. أ. ناداريا (يناير 1964). "حول تقدير الانحدار". نظرية الاحتمالات وتطبيقاتها . 9 (1): 141-142 . doi : 10.1137/1109020 . ISSN 0040-585X . Wikidata Q29303512 .  
  26. واتسون ، جي إس، "تحليل الانحدار السلس"، سلسلة سانخيا أ ، 26 : 359-372
  27. تشارلز ج. ستون (نوفمبر 1980). "معدلات التقارب المثلى للمُقدِّرات غير البارامترية". حوليات الإحصاء . 8 ( 6): 1348-1360 . doi : 10.1214/AOS/ 1176345206 . ISSN 0090-5364 . JSTOR 2240947. MR 0594650. Zbl 0451.62033 . Wikidata Q132272803 .     
  28. ف. أ. إيبانيتشنيكوف (يناير 1969). "التقدير غير البارامتري لكثافة الاحتمال متعددة المتغيرات". نظرية الاحتمالات وتطبيقاتها . 14 (1). ترجمة ب. سيكلر: 153-158 . doi : 10.1137/1114019 . ISSN 0040-585X . Wikidata Q57308723 .  
  29. جيانكينغ فان (مارس 1993). "مُنعِّمات الانحدار الخطي المحلي وكفاءتها الدنيا القصوى" . حوليات الإحصاء . 21 (1): 196-216 . doi : 10.1214/AOS/1176349022 . ISSN 0090-5364 . Zbl 0773.62029 . Wikidata Q132691957 .   
  30. جيانكينغ فان ؛ نانسي إي. هيكمان ؛ مات واند (مارس 1995). "انحدار النواة متعددة الحدود المحلية للنماذج الخطية المعممة ودوال شبه الاحتمالية". مجلة الجمعية الإحصائية الأمريكية . 90 (429): 141-150 . doi : 10.2307/2291137 . ISSN 0162-1459 . JSTOR 2291137. Zbl 0818.62036 . Wikidata Q132508409 .    
  31. 1 2 كاثرين لودر (1999). الانحدار المحلي والاحتمالية . الإحصاء والحوسبة. سبرينغر نيتشر . doi : 10.1007/B98858 . ISBN 978-0-387-98775-0. إل سي سي إن 99014732 . السيد 1704236 . رأ 14851039 واط . زبل 0929.62046 . ويكي بيانات Q59410587 .     
  32. تسيباكوف، ألكسندر ب . ، "إعادة بناء الدوال بشكل قوي باستخدام طريقة التقريب المحلي."، مشاكل نقل المعلومات ، 22 : 133-146
  33. يو، كيمينغ؛ جونز، إم سي (1998)، "الانحدار الكمي الخطي المحلي"، مجلة الجمعية الإحصائية الأمريكية ، 93 (441): 228-237 ، رمز Bibcode : 1998JASA...93..228Y ، doi : 10.1080/01621459.1998.10474104
  34. 1 2 شولمان، يانيف (2025). "الانحدار متعدد الحدود المحلي القوي مع نواة التشابه". arXiv : 2501.10729 [ stat.ME ].
  35. جيانكينغ فان ؛ إيرين غيبلز (1996). نمذجة كثيرات الحدود المحلية وتطبيقاتها . دراسات في الإحصاء والاحتمالات التطبيقية. تشابمان وهول . doi : 10.1201/9780203748725 . ISBN 978-0-203-74872-5. السيد 1383587 . زبل 0873.62037 . ويكي بيانات Q134377589 .   
  36. أ. ستيوارت فوثرينغهام ؛ كريس برونسدون؛ مارتن تشارلتون (21 فبراير 2003). الانحدار الموزون جغرافيًا: تحليل العلاقات المتغيرة مكانيًا . وايلي . ISBN 978-0-470-85525-6. إل سي سي إن 2003272388 . ويكي بيانات Q133002722 .  
  37. بارثا ميترا ؛ هيمانث بوكيل (6 ديسمبر 2007). ديناميكيات الدماغ المرصودة . مطبعة جامعة أكسفورد . doi : 10.1093/ACPROF:OSO/9780195178081.001.0001 . ISBN 978-0-19-986482-9. إل سي سي إن 2007019012 . ويكي بيانات Q57575432 .  
  38. إيريزاري، رافائيل. "الإحصاءات اللامعلمية التطبيقية والحديثة" . تم الاسترجاع في 16-05-2025 .

مصادر

المجال العام تتضمن هذه المقالة موادًا متاحة للعموم من المعهد الوطني للمعايير والتكنولوجيا