إعادة التوزيع (الإحصاءات)

الموسوعة الحرة

في الإحصاء ، إعادة التوزيع هي عملية إنشاء عينات جديدة بناءً على عينة واحدة مُلاحظة. ومن طرق إعادة التوزيع ما يلي:

  1. اختبارات التبديل (وأيضًا اختبارات إعادة التوزيع العشوائي) لتوليد عينات افتراضية
  2. التمويل الذاتي
  3. التحقق المتبادل
  4. سكين جيب

اختبارات التبديل

تعتمد اختبارات التبديل على إعادة أخذ عينات من البيانات الأصلية بافتراض صحة الفرضية الصفرية. وبناءً على البيانات المعاد أخذ عينات منها، يمكن استنتاج مدى احتمالية ظهور البيانات الأصلية في ظل الفرضية الصفرية.

بوتستراب

أفضل مثال على مبدأ الإضافة، طريقة التمهيد

إعادة التوزيع العشوائي (Bootstrapping) هي طريقة إحصائية لتقدير توزيع المعاينة لمُقدِّر ما ، وذلك عن طريق أخذ عينات مع الإحلال من العينة الأصلية، وغالبًا ما يكون الهدف منها استخلاص تقديرات قوية للأخطاء المعيارية وفترات الثقة لمعلمة مجتمع إحصائي، مثل المتوسط ، أو الوسيط ، أو النسبة ، أو نسبة الأرجحية ، أو معامل الارتباط ، أو معامل الانحدار . وقد أُطلق عليها اسم مبدأ الإقحام [ 1 ]، لأنها طريقة لتقدير دوال توزيع المجتمع الإحصائي من خلال تقييم الدوال نفسها عند التوزيع التجريبي بناءً على عينة.

على سبيل المثال، [ 1 ] عند تقدير متوسط ​​المجتمع ، تستخدم هذه الطريقة متوسط ​​العينة ؛ لتقدير وسيط المجتمع ، تستخدم وسيط العينة؛ لتقدير خط انحدار المجتمع ، تستخدم خط انحدار العينة.

يمكن استخدامها أيضًا في بناء اختبارات الفرضيات. وغالبًا ما تُستخدم كبديل قوي للاستدلال القائم على الافتراضات البارامترية عندما تكون هذه الافتراضات موضع شك، أو عندما يكون الاستدلال البارامتري مستحيلاً أو يتطلب صيغًا معقدة للغاية لحساب الأخطاء المعيارية. كما تُستخدم تقنيات إعادة التوزيع العشوائي (Bootstrap) في عمليات تحديث-اختيار مرشحات الجسيمات ، وخوارزميات النوع الجيني ، وطرق مونت كارلو لإعادة التشكيل/إعادة التكوين ذات الصلة المستخدمة في الفيزياء الحاسوبية . [ 2 ] [ 3 ] في هذا السياق، تُستخدم إعادة التوزيع العشوائي لاستبدال مقاييس الاحتمالية الموزونة تجريبيًا بشكل متسلسل بمقاييس تجريبية . وتسمح إعادة التوزيع العشوائي باستبدال العينات ذات الأوزان المنخفضة بنسخ من العينات ذات الأوزان العالية.

التحقق المتبادل

التحقق المتبادل هو أسلوب إحصائي للتحقق من صحة نموذج تنبؤي . تُخصص مجموعات فرعية من البيانات لاستخدامها كمجموعات تحقق؛ ويُدرَّب النموذج على البيانات المتبقية (مجموعة التدريب) ويُستخدم للتنبؤ بمجموعة التحقق. يُعطي متوسط ​​جودة التنبؤات عبر مجموعات التحقق مقياسًا شاملًا لدقة التنبؤ. يُستخدم التحقق المتبادل بشكل متكرر في بناء أشجار القرار.

أحد أشكال التحقق المتقاطع يستبعد ملاحظة واحدة في كل مرة؛ وهذا يشبه أسلوب جاكنايف . أما الشكل الآخر، وهو التحقق المتقاطع ذو K طية، فيقسم البيانات إلى K مجموعة فرعية؛ وتُستخدم كل مجموعة منها بدورها كمجموعة تحقق.

هذا يتجنب "التأثير الذاتي". للمقارنة، في أساليب تحليل الانحدار ، مثل الانحدار الخطي ، يرسم كل متغير y خط الانحدار باتجاهه، مما يجعل التنبؤ بتلك القيمة يبدو أكثر دقة مما هو عليه في الواقع. أما التحقق المتبادل المطبق على الانحدار الخطي، فيتنبأ بقيمة y لكل مشاهدة دون استخدام تلك المشاهدة نفسها.

يُستخدم هذا الأسلوب غالبًا لتحديد عدد المتغيرات التنبؤية المستخدمة في الانحدار. فبدون التحقق المتبادل، تؤدي إضافة المتغيرات التنبؤية دائمًا إلى تقليل مجموع مربعات البواقي (أو ربما تُبقيه دون تغيير). في المقابل، يميل متوسط ​​مربع الخطأ المُتحقق منه متبادلًا إلى الانخفاض عند إضافة متغيرات تنبؤية قيّمة، ولكنه يزداد عند إضافة متغيرات تنبؤية غير قيّمة. [ 4 ]

التحقق المتبادل باستخدام طريقة مونت كارلو

يُعدّ أخذ العينات الفرعية طريقة بديلة لتقريب توزيع المعاينة للمُقدِّر. ويتمثل الاختلافان الرئيسيان بينها وبين طريقة بوتستراب فيما يلي:

  1. حجم العينة المعاد أخذها أصغر من حجم العينة الأصلية و
  2. تتم إعادة أخذ العينات دون استبدال.

تتمثل ميزة أخذ العينات الفرعية في صلاحيتها في ظل شروط أقل صرامة مقارنةً بطريقة إعادة التوزيع (Bootstrap). ومن بين الشروط الكافية أن يكون معدل تقارب المُقدِّر معروفًا، وأن يكون التوزيع الحدي متصلًا. إضافةً إلى ذلك، يجب أن يؤول حجم إعادة التوزيع (أو العينة الفرعية) إلى اللانهاية مع حجم العينة، ولكن بمعدل أبطأ، بحيث تتقارب نسبتهما إلى الصفر. في حين أن أخذ العينات الفرعية طُرح في الأصل لحالة البيانات المستقلة والمتطابقة التوزيع (iid) فقط، فقد تم توسيع نطاق هذه المنهجية لتشمل بيانات السلاسل الزمنية أيضًا؛ في هذه الحالة، يُعاد توزيع كتل من البيانات المتتالية بدلًا من نقاط البيانات الفردية. هناك العديد من الحالات التطبيقية المهمة التي يؤدي فيها أخذ العينات الفرعية إلى استدلال صحيح بينما لا تؤدي طريقة إعادة التوزيع (Bootstrap) إلى ذلك؛ على سبيل المثال، تشمل هذه الحالات الحالات التي لا يكون فيها معدل تقارب المُقدِّر هو الجذر التربيعي لحجم العينة، أو عندما يكون التوزيع الحدي غير طبيعي. عندما يكون كل من أخذ العينات الفرعية والتمهيد متسقين، يكون التمهيد عادةً أكثر دقة. RANSAC خوارزمية شائعة تستخدم أخذ العينات الفرعية.

التحقق المتبادل باستخدام جاكنايف

تُستخدم طريقة جاكنايف (التحقق المتقاطع باستخدام جاكنايف) في الاستدلال الإحصائي لتقدير الانحياز والخطأ المعياري (التباين) لإحصائية ما، وذلك عند استخدام عينة عشوائية من المشاهدات لحسابها. تاريخيًا، سبقت هذه الطريقة اختراع طريقة بوتستراب، حيث ابتكرها كينويل عام 1949، ثم طورها توكي عام 1958. [ 5 ] [ 6 ] وقد تنبأ ماهالانوبيس بهذه الطريقة عندما اقترح عام 1946 إجراء تقديرات متكررة للإحصائية المطلوبة مع اختيار نصف العينة عشوائيًا. [ 7 ] وقد أطلق على هذه الطريقة اسم "العينات المتداخلة".

ابتكر كينويل هذه الطريقة بهدف تقليل تحيز تقدير العينة. قام توكي بتوسيع هذه الطريقة بافتراض أنه إذا أمكن اعتبار التكرارات موزعة بشكل متطابق ومستقل، فإنه يمكن تقدير تباين معلمة العينة، وأنه سيكون موزعًا تقريبًا كمتغير ذي n − 1 درجة حرية ( حيث n هو حجم العينة).

تعتمد الفكرة الأساسية وراء مُقدِّر التباين باستخدام طريقة جاكنايف على إعادة حساب تقدير الإحصائية بشكل منهجي، وذلك باستبعاد مُشاهدة واحدة أو أكثر في كل مرة من مجموعة العينة. ومن هذه المجموعة الجديدة من التكرارات الإحصائية، يُمكن حساب تقدير للانحياز وتقدير لتباين الإحصائية. تُعادل طريقة جاكنايف التحقق المتقاطع العشوائي (أخذ العينات الفرعية) باستبعاد مُشاهدة واحدة، وتختلف عنها فقط في الهدف. [ 8 ]

بالنسبة للعديد من المعايير الإحصائية، يتقارب تقدير التباين باستخدام طريقة جاكنايف بشكل تقاربي مع القيمة الحقيقية بشكل شبه مؤكد. وبعبارة أخرى، يُقال إن تقدير جاكنايف متسق . ويكون تقدير جاكنايف متسقًا بالنسبة لمتوسطات العينات ، وتباينات العينات ، وإحصائيات t المركزية وغير المركزية (مع احتمالية عدم اتباع التوزيع الطبيعي)، ومعامل تباين العينة ، ومُقدِّرات الاحتمال الأقصى ، ومُقدِّرات المربعات الصغرى، ومعاملات الارتباط ، ومعاملات الانحدار .

لا ينطبق هذا على الوسيط العيني . في حالة المتغير أحادي النمط، تميل نسبة تباين جاكنايف إلى تباين العينة إلى أن تتوزع كنصف مربع توزيع كاي تربيع بدرجتي حرية .

بدلاً من استخدام طريقة جاكنايف لتقدير التباين، يمكن تطبيقها على لوغاريتم التباين. قد يؤدي هذا التحويل إلى تقديرات أفضل، خاصةً عندما يكون توزيع التباين نفسه غير طبيعي.

تعتمد طريقة جاكنايف، مثل طريقة بوتستراب الأصلية، على استقلالية البيانات. وقد اقتُرحت امتدادات لطريقة جاكنايف للسماح بوجود تبعية في البيانات. أحد هذه الامتدادات هو طريقة حذف مجموعة تُستخدم مع أخذ عينات بواسون .

مقارنة بين أسلوب بوتستراب وأسلوب جاكنايف

تُقدّر كلتا الطريقتين، بوتستراب وجاكنايف، تباين إحصائية ما من خلال تباينها بين عينات فرعية، بدلاً من الاعتماد على افتراضات بارامترية. بالنسبة لجاكنايف الأكثر عمومية، جاكنايف حذف m من المشاهدات، يُمكن اعتبار بوتستراب تقريبًا عشوائيًا لها. تُعطي كلتا الطريقتين نتائج عددية متشابهة، ولذلك يُمكن اعتبار كل منهما تقريبًا للأخرى. على الرغم من وجود اختلافات نظرية كبيرة في رؤاهما الرياضية، فإن الفرق العملي الرئيسي لمستخدمي الإحصاء هو أن بوتستراب تُعطي نتائج مختلفة عند تكرارها على نفس البيانات، بينما تُعطي جاكنايف نفس النتيجة تمامًا في كل مرة. لهذا السبب، تُعدّ جاكنايف شائعة عندما يلزم التحقق من التقديرات عدة مرات قبل النشر (مثل وكالات الإحصاء الرسمية). من ناحية أخرى، عندما لا تكون ميزة التحقق هذه حاسمة، ويكون الهدف ليس الحصول على رقم محدد بل مجرد فكرة عن توزيعه، يُفضّل استخدام بوتستراب (مثل الدراسات في الفيزياء والاقتصاد والعلوم البيولوجية).

قد يعتمد اختيار طريقة إعادة التوزيع (Bootstrap) أو طريقة جاكنايف (Jackknife) على الجوانب التشغيلية أكثر من الاعتبارات الإحصائية للدراسة. تُعدّ طريقة جاكنايف، التي استُخدمت في الأصل لتقليل التحيز، طريقةً متخصصةً تُقدّر تباين المُقدِّر النقطي فقط، وهو ما يكفي للاستدلال الإحصائي الأساسي (مثل اختبار الفرضيات، وفترات الثقة). أما طريقة إعادة التوزيع، فتُقدّر أولًا التوزيع الكامل (للمُقدِّر النقطي) ثم تحسب التباين منه. ورغم سهولتها وفعاليتها، إلا أنها قد تتطلب موارد حاسوبية كبيرة.

يمكن تطبيق أسلوب إعادة التوزيع (Bootstrap) على كلٍ من مسائل تقدير التباين وتقدير التوزيع. مع ذلك، فإن مُقدِّر التباين باستخدام إعادة التوزيع ليس بجودة مُقدِّر التباين باستخدام طريقة جاكنايف أو طريقة التكرار المتوازن (BRR) من حيث النتائج التجريبية. علاوة على ذلك، يتطلب مُقدِّر التباين باستخدام إعادة التوزيع عادةً حسابات أكثر من جاكنايف أو BRR. لذا، يُوصى باستخدام إعادة التوزيع بشكل أساسي لتقدير التوزيع. [ 9 ]

هناك اعتبار خاص يتعلق بخوارزمية جاكنايف، لا سيما خوارزمية حذف مشاهدة واحدة. ينبغي استخدامها فقط مع الإحصاءات السلسة والقابلة للتفاضل (مثل المجاميع، والمتوسطات، والنسب، والنسب، ونسب الأرجحية، ومعاملات الانحدار، وما إلى ذلك؛ وليس مع الوسائط أو المئينيات). قد يُشكل هذا عيبًا عمليًا. عادةً ما يكون هذا العيب هو الحجة التي تُرجّح استخدام أسلوب إعادة التوزيع (Bootstrap) على خوارزمية جاكنايف. تتغلب خوارزميات جاكنايف الأكثر عمومية من خوارزمية حذف مشاهدة واحدة، مثل خوارزمية حذف m أو مُقدِّر هودجز-ليمان بحذف جميع المشاهدات باستثناء اثنتين ، على هذه المشكلة بالنسبة للوسائط والمئينيات عن طريق تخفيف متطلبات السلاسة لتقدير التباين المتسق.

عادةً ما يكون تطبيق طريقة جاكنايف أسهل من تطبيق طريقة بوتستراب على مخططات المعاينة المعقدة. قد تتضمن مخططات المعاينة المعقدة التقسيم الطبقي، ومراحل متعددة (التجميع)، وأوزان معاينة متغيرة (تعديلات عدم الاستجابة، والمعايرة، والتقسيم الطبقي اللاحق)، وفي ظل تصميمات معاينة ذات احتمالات غير متساوية. يمكن الاطلاع على الجوانب النظرية لكل من بوتستراب وجاكنايف في شاو وتو (1995)، [ 10 ] بينما يُقدم وولتر (2007) مقدمة أساسية. [ 11 ] يُعد تقدير بوتستراب لانحياز تنبؤ النموذج أكثر دقة من تقديرات جاكنايف مع النماذج الخطية مثل دالة التمييز الخطي أو الانحدار المتعدد. [ 12 ]

انظر أيضاً

مراجع

  1. 1 2 لوغان، ج. ديفيد ووليسنسكي، ويليام ر. الأساليب الرياضية في علم الأحياء. الرياضيات البحتة والتطبيقية: سلسلة وايلي-إنترساينس من النصوص والدراسات والكتيبات. جون وايلي وأولاده، 2009. الفصل 6: الاستدلال الإحصائي. القسم 6.6: أساليب بوتستراب
  2. ↑ ديل مورال، بيير (2004). صيغ فاينمان-كاك. تقريبات الجسيمات الجينية والمتفاعلة . الاحتمالات وتطبيقاتها. سبرينغر. ص  575. doi : 10.1007/978-1-4684-9393-1 . ISBN 978-1-4419-1902-1سلسلة : الاحتمالات وتطبيقاتها
  3. ↑ ديل مورال، بيير (2013). محاكاة المجال المتوسط ​​لتكامل مونت كارلو . تشابمان آند هول/سي آر سي برس. ص 626. دراسات في الإحصاء والاحتمالات التطبيقية 
  4. ↑ فيربيلا، د. (1986). "التحيز المحتمل في التنبؤ في تحليل الانحدار والتمييز". المجلة الكندية لأبحاث الغابات . 16 (6): 1255-1257 . Bibcode : 1986CaJFR..16.1255V . doi : 10.1139/x86-222 .
  5. ↑ كينويل، م. هـ. (1949). "اختبارات تقريبية للارتباط في السلاسل الزمنية". مجلة الجمعية الإحصائية الملكية، السلسلة ب . 11 (1): 68-84 . doi : 10.1111/j.2517-6161.1949.tb00023.x . JSTOR 2983696 . 
  6. ↑ توكي، جيه دبليو (1958). "التحيز والثقة في العينات غير الكبيرة تمامًا (تقرير أولي)". حوليات الإحصاء الرياضي . 29 (2): 614. JSTOR 2237363 . 
  7. ↑ ماهالانوبيس، عضو المجلس الخاص (1946). "وقائع اجتماع الجمعية الإحصائية الملكية المنعقد في 16 يوليو 1946". مجلة الجمعية الإحصائية الملكية . 109 (4): 325-370 . JSTOR 2981330 . 
  8. ↑ موسوعة المعلوماتية الحيوية وعلم الأحياء الحاسوبي: أساسيات المعلوماتية الحيوية . إلسيفير. 21-08-2018. ص 544. ISBN  978-0-12-811432-2.
  9. ↑ شاو، ج. وتو، د. (1995). جاكنايف وبوتستراب. سبرينغر-فيرلاغ، إنك. ص 281.
  10. ↑ شاو، ج.؛ تو، د. (1995). جاكنايف وبوتستراب . سبرينغر.
  11. ↑ وولتر، ك.م. (2007). مقدمة في تقدير التباين ( الطبعة الثانية). سبرينغر. 
  12. ↑ فيربيلا، د.؛ ليتفايتيس، ج. (1989). "طرق إعادة التشكيل لتقييم دقة تصنيف نماذج موائل الحياة البرية". الإدارة البيئية . 13 (6): 783-787 . Bibcode : 1989EnMan..13..783V . doi : 10.1007/bf01868317 . S2CID 153448048 . 

الأدب

  • جود، ب. (2006) أساليب إعادة التشكيل . الطبعة الثالثة. بيركهاوزر.
  • وولتر، ك.م. (2007). مقدمة في تقدير التباين . الطبعة الثانية. سبرينغر، إنك.
  • بيير ديل مورال (2004). صيغ فاينمان-كاك. أنظمة الجسيمات الجينية والمتفاعلة مع تطبيقاتها، سبرينغر، سلسلة الاحتمالات والتطبيقات. ISBN 978-0-387-20268-6
  • بيير ديل مورال (2013). ديل مورال، بيير (2013). محاكاة المجال المتوسط ​​لتكامل مونت كارلو . تشابمان آند هول/سي آر سي برس، دراسات في الإحصاء والاحتمالات التطبيقية. ISBN 9781466504059
  • جيانغ و، سيمون ر. مقارنة بين طرق إعادة التوزيع العشوائي (Bootstrap) ونهج إعادة التوزيع العشوائي المعدل لتقدير خطأ التنبؤ في تصنيف المصفوفات الدقيقة. مجلة الإحصاء الطبي. 20 ديسمبر 2007؛ 26(29): 5320-34. doi: 10.1002/sim.2968. PMID: 17624926. https://brb.nci.nih.gov/techreport/prederr_rev_0407.pdf

برمجة