النموذج الخطي

في الإحصاء ، يشير مصطلح "النموذج الخطي" إلى أي نموذج يفترض الخطية في النظام. ويُستخدم هذا المصطلح بكثرة في سياق نماذج الانحدار، وغالبًا ما يُعتبر مرادفًا لنموذج الانحدار الخطي . مع ذلك، يُستخدم المصطلح أيضًا في تحليل السلاسل الزمنية بمعنى مختلف. في كلتا الحالتين، يُستخدم مصطلح "خطي" لتحديد فئة فرعية من النماذج التي يُمكن فيها تبسيط النظرية الإحصائية ذات الصلة بشكل كبير.

في حالة الانحدار، يكون النموذج الإحصائي كما يلي. بالنظر إلى عينة (عشوائية)${\displaystyle (Y_{i},X_{i1},\ldots ,X_{ip}),\,i=1,\ldots ,n}$العلاقة بين الملاحظات${\displaystyle Y_{i}}$والمتغيرات المستقلة${\displaystyle X_{ij}}$تتم صياغتها على النحو التالي:

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})+\varepsilon _{i}\qquad i=1,\ldots ,n}$

أين${\displaystyle \phi _{1},\ldots ,\phi _{p}}$قد تكون دوالًا غير خطية . في ما سبق، الكميات${\displaystyle \varepsilon _{i}}$هي متغيرات عشوائية تمثل أخطاء في العلاقة. ويتعلق الجزء "الخطي" من التسمية بظهور معاملات الانحدار .${\displaystyle \beta _{j}}$بطريقة خطية في العلاقة المذكورة أعلاه. أو يمكن القول إن القيم المتوقعة التي تتوافق مع النموذج المذكور أعلاه، أي

${\displaystyle {\hat {Y}}_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})\qquad (i=1,\ldots ,n),}$

هي دوال خطية لـ${\displaystyle \beta _{j}}$.

بما أن التقدير يتم على أساس تحليل المربعات الصغرى ، فإن تقديرات المعلمات المجهولة${\displaystyle \beta _{j}}$يتم تحديدها عن طريق تقليل دالة مجموع المربعات

${\displaystyle S=\sum _{i=1}^{n}\varepsilon _{i}^{2}=\sum _{i=1}^{n}\left(Y_{i}-\beta _{0}-\beta _{1}\phi _{1}(X_{i1})-\cdots -\beta _{p}\phi _{p}(X_{ip})\right)^{2}.}$

ومن هذا، يمكن بسهولة ملاحظة أن الجانب "الخطي" للنموذج يعني ما يلي:

• الدالة المراد تقليلها هي دالة تربيعية لـ${\displaystyle \beta _{j}}$والتي تعتبر عملية التصغير فيها مشكلة بسيطة نسبياً؛
• مشتقات الدالة هي دوال خطية لـ${\displaystyle \beta _{j}}$مما يسهل إيجاد القيم الدنيا؛
• القيم الدنيا${\displaystyle \beta _{j}}$هي دوال خطية للمشاهدات${\displaystyle Y_{i}}$؛
• القيم الدنيا${\displaystyle \beta _{j}}$هي دوال خطية للأخطاء العشوائية${\displaystyle \varepsilon _{i}}$مما يجعل من السهل نسبياً تحديد الخصائص الإحصائية للقيم المقدرة لـ${\displaystyle \beta _{j}}$.

من الأمثلة على نماذج السلاسل الزمنية الخطية نموذج المتوسط ​​المتحرك التلقائي . هنا، النموذج للقيم {${\displaystyle X_{t}}$يمكن كتابة } في سلسلة زمنية بالشكل التالي

${\displaystyle X_{t}=c+\varepsilon _{t}+\sum _{i=1}^{p}\phi _{i}X_{ti}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{ti}.\,}$

حيث الكميات مرة أخرى${\displaystyle \varepsilon _{i}}$هي متغيرات عشوائية تمثل ابتكارات، وهي عبارة عن تأثيرات عشوائية جديدة تظهر في وقت معين ولكنها تؤثر أيضًا على قيم${\displaystyle X}$في أوقات لاحقة. في هذه الحالة، يشير استخدام مصطلح "النموذج الخطي" إلى بنية العلاقة المذكورة أعلاه في تمثيل${\displaystyle X_{t}}$كدالة خطية للقيم السابقة لنفس السلسلة الزمنية، وللقيم الحالية والسابقة للابتكارات. ^{[ 1 ]} هذا الجانب المحدد من البنية يعني أنه من السهل نسبيًا اشتقاق علاقات لخصائص المتوسط ​​والتباين للسلسلة الزمنية. تجدر الإشارة إلى أن الجزء "الخطي" من مصطلح "النموذج الخطي" هنا لا يشير إلى المعاملات.${\displaystyle \phi _{i}}$و${\displaystyle \theta _{i}}$، كما هو الحال في نموذج الانحدار، الذي يبدو متشابهاً من الناحية الهيكلية.

توجد بعض الحالات الأخرى التي يُستخدم فيها مصطلح "النموذج غير الخطي" للتمييز بينه وبين النموذج ذي البنية الخطية، على الرغم من أن مصطلح "النموذج الخطي" لا يُستخدم عادةً. ومن الأمثلة على ذلك اختزال الأبعاد غير الخطي .

• النموذج الخطي العام
• النموذج الخطي المعمم
• دالة التنبؤ الخطي
• النظام الخطي
• الانحدار الخطي
• النموذج الإحصائي